GenerativeAIExamples

用 NVIDIA 参考工作流，快速搭建生产级生成式 AI 应用。

GenerativeAIExamples 是 NVIDIA 推出的生成式 AI 参考工作流集合，专为加速基础设施和微服务架构优化。它提供了一系列端到端的示例，涵盖 RAG（检索增强生成）、多模态、智能体、内容生成等常见场景，帮助开发者快速搭建生产级 AI 应用。项目解决了从原型到部署之间的鸿沟，通过预构建的微服务组件和可复用的代码模板，让开发者能专注于业务逻辑而非底层基础设施。核心能力包括：与 NVIDIA NIM 等加速库无缝集成、支持多模型和多模态输入、提供可观测性和性能优化最佳实践。示例以 Jupyter Notebook 和 Python 为主，附带详细文档，适合企业级 AI 应用开发。

开源 free 搜索知识

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 4191

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类搜索知识

开发团队NVIDIA

所属国家

官网地址

GitHubhttps://github.com/NVIDIA/GenerativeAIExamples

定价模式free

价格说明开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Jupyter Notebook

技术栈/模型gpu-acceleration,large-language-models,llm,llm-inference,microservice,nemo,rag,retrieval-augmented-generation,tensorrt,triton-inference-server

GitHub 星标★ 4191

30天Star增速

HF 下载量

上线时间2023-10-19 00:00:00

最近更新2026-09-23 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

难度：进阶约 30 分钟部署方式：本地安装 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

支持 NVIDIA GPU 加速的硬件环境（项目定位为加速基础设施与微服务优化）
可运行 Jupyter Notebook 的 Python 环境（仓库示例以 Notebook 为主）
已安装 Git 以便获取仓库代码
按需具备 NVIDIA NIM / NeMo Microservices 的访问权限（README 提及本地 NIM 部署与 NeMo 微服务组件）

安装与启动步骤

1克隆代码仓库

从 GitHub 拉取 GenerativeAIExamples 仓库到本地，后续所有示例与文档都基于该目录。
```
git clone https://github.com/NVIDIA/GenerativeAIExamples.git
```
2阅读前置条件

README 的 Getting Started 只指向该文档，需先按其说明准备驱动、容器或依赖环境。
```
cat docs/common-prerequisites.md
```
3挑选要跑的示例

按 What's New、RAG、Data Flywheel 章节选定示例，例如 notebooks/08_RAG_Langchain_with_Local_NIM.ipynb。
4运行示例 Notebook

用 Jupyter 打开选定 Notebook 并按单元格顺序执行，具体依赖与启动方式以该 Notebook 内说明为准。

如何确认成功

能按 docs/common-prerequisites.md 完成环境准备，并正常打开执行所选示例 Notebook，即视为环境就绪。

常见问题

Q：安装依赖的完整命令在哪里？

A：README 正文没有给出安装命令，Getting Started 仅指向 docs/common-prerequisites.md，请以该文档和各示例 Notebook 内的单元格说明为准。

Q：该从哪个示例开始？

A：可先看 What's New 中的 RAG with Local NIM Deployment 与 Data Flywheel 教程，再按 RAG 或 Agentic Workflows 章节挑选与业务接近的示例。

Q：示例依赖哪些 NVIDIA 组件？

A：README 提到 NVIDIA NIM（含本地部署）、NeMo Microservices、TensorRT 与 LangChain AI Endpoints，使用前需确认对应组件的可用性与权限。

注意事项

README 节选中未提供安装命令、端口或配置项，本教程仅覆盖可确认的准备动作，具体环境搭建请参考 docs/common-prerequisites.md。
部分示例版本以 release 标签为准，如 README 中引用的 v0.7.0 路径。
涉及 NIM、NeMo 等 NVIDIA 组件时可能需要相应授权与 GPU 资源，请先确认可访问性。

核心亮点

提供多种真实场景的端到端参考实现，如 RAG、多模态、智能体，直接可跑。
深度集成 NVIDIA 加速库（如 NIM、TensorRT），性能优化开箱即用。
微服务架构设计，便于模块化部署和扩展，适合企业落地。

不足之处

依赖 NVIDIA 生态，对非 NVIDIA 硬件或云环境支持有限。
文档/社区待观察，部分示例更新频率不高。

适用场景

企业快速构建 RAG 问答系统，需要生产级参考。
在 NVIDIA 加速平台上部署多模态 AI 服务。
学习微服务架构下生成式 AI 的最佳实践。

替代项目

LangChain、Haystack、LlamaIndex

项目介绍

GenerativeAIExamples 是开发框架领域的开源项目，由 NVIDIA 开发，2023 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（4,191）位列前 10%，在开发框架分类的 803 个项目里位列前 12%。

近 42 天，它的 GitHub 星标从 4,147 增加到 4,191，净增 44。

项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-23。Apache-2.0许可证，完全免费，可自行部署使用。

它主要面向的使用场景是：企业快速构建RAG问答系统，需要生产级参考。同类可对比的替代方案包括 LangChain、Haystack、LlamaIndex。

上一篇：TaskingAI

下一篇：agentic-rag-for-dummies