GenerativeAIExamples

用 NVIDIA 参考工作流,快速搭建生产级生成式 AI 应用。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 1101 🐛 待处理 86 👀 关注 91
GitHub ↗
GitHub 星标 ★ 4226
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,完全免费,可自行部署使用。

项目预览

GenerativeAIExamples 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队NVIDIA
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
技术栈/模型gpu-acceleration,large-language-models,llm,llm-inference,microservice,nemo,rag,retrieval-augmented-generation,tensorrt,triton-inference-server
GitHub 星标★ 4226
上线时间2023-10-19 00:00:00
代码更新2026-11-06
仓库体积137.3 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-09
浏览次数4

项目介绍

GenerativeAIExamples 是 NVIDIA 推出的生成式 AI 参考工作流集合,专为加速基础设施和微服务架构优化。它提供了一系列端到端的示例,涵盖 RAG(检索增强生成)、多模态、智能体、内容生成等常见场景,帮助开发者快速搭建生产级 AI 应用。项目解决了从原型到部署之间的鸿沟,通过预构建的微服务组件和可复用的代码模板,让开发者能专注于业务逻辑而非底层基础设施。核心能力包括:与 NVIDIA NIM 等加速库无缝集成、支持多模型和多模态输入、提供可观测性和性能优化最佳实践。示例以 Jupyter Notebook 和 Python 为主,附带详细文档,适合企业级 AI 应用开发。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 4226

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 30 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 支持 NVIDIA GPU 加速的硬件环境(项目定位为加速基础设施与微服务优化)
  • 可运行 Jupyter Notebook 的 Python 环境(仓库示例以 Notebook 为主)
  • 已安装 Git 以便获取仓库代码
  • 按需具备 NVIDIA NIM / NeMo Microservices 的访问权限(README 提及本地 NIM 部署与 NeMo 微服务组件)

安装与启动步骤

  1. 1克隆代码仓库

    从 GitHub 拉取 GenerativeAIExamples 仓库到本地,后续所有示例与文档都基于该目录。

    git clone https://github.com/NVIDIA/GenerativeAIExamples.git
  2. 2阅读前置条件

    README 的 Getting Started 只指向该文档,需先按其说明准备驱动、容器或依赖环境。

    cat docs/common-prerequisites.md
  3. 3挑选要跑的示例

    按 What's New、RAG、Data Flywheel 章节选定示例,例如 notebooks/08_RAG_Langchain_with_Local_NIM.ipynb。

  4. 4运行示例 Notebook

    用 Jupyter 打开选定 Notebook 并按单元格顺序执行,具体依赖与启动方式以该 Notebook 内说明为准。

如何确认成功

能按 docs/common-prerequisites.md 完成环境准备,并正常打开执行所选示例 Notebook,即视为环境就绪。

常见问题

Q:安装依赖的完整命令在哪里?

A:README 正文没有给出安装命令,Getting Started 仅指向 docs/common-prerequisites.md,请以该文档和各示例 Notebook 内的单元格说明为准。

Q:该从哪个示例开始?

A:可先看 What's New 中的 RAG with Local NIM Deployment 与 Data Flywheel 教程,再按 RAG 或 Agentic Workflows 章节挑选与业务接近的示例。

Q:示例依赖哪些 NVIDIA 组件?

A:README 提到 NVIDIA NIM(含本地部署)、NeMo Microservices、TensorRT 与 LangChain AI Endpoints,使用前需确认对应组件的可用性与权限。

注意事项

  • README 节选中未提供安装命令、端口或配置项,本教程仅覆盖可确认的准备动作,具体环境搭建请参考 docs/common-prerequisites.md。
  • 部分示例版本以 release 标签为准,如 README 中引用的 v0.7.0 路径。
  • 涉及 NIM、NeMo 等 NVIDIA 组件时可能需要相应授权与 GPU 资源,请先确认可访问性。

核心亮点

  • 提供多种真实场景的端到端参考实现,如 RAG、多模态、智能体,直接可跑。
  • 深度集成 NVIDIA 加速库(如 NIM、TensorRT),性能优化开箱即用。
  • 微服务架构设计,便于模块化部署和扩展,适合企业落地。

不足之处

  • 依赖 NVIDIA 生态,对非 NVIDIA 硬件或云环境支持有限。
  • 文档/社区待观察,部分示例更新频率不高。

适用场景

  • 企业快速构建 RAG 问答系统,需要生产级参考。
  • 在 NVIDIA 加速平台上部署多模态 AI 服务。
  • 学习微服务架构下生成式 AI 的最佳实践。

替代项目

LangChain、Haystack、LlamaIndex

上一篇:TaskingAI

下一篇:agentic-rag-for-dummies

同类项目推荐

skills 开源

给 LLM 装插件,技能即插即用

A marketplace for LLM skills

★ 738 2026-09-26
apowerb 开源

把 AI Agent 从原型编排到上生产运维

The open-source agentic framework to build, orchestrate, and operate production AI a···

★ 150 2026-10-15
AnyJev 开源

不训练,把任意 LLM 变成会算概率的决策器

Turn any LLM into a Jev-style decision model: typed decisions, real probabilities, n···

★ 1599 2026-09-28
wink-nlp 开源

用 JavaScript 轻松实现文本实体识别与聊天机器人

Developer friendly Natural Language Processing ✨

★ 1391 2026-08-09
OpenAI-DotNet 开源

在 .NET 里一行代码调用 ChatGPT,告别手写 HTTP 请求

A Non-Official OpenAI RESTful API Client for DotNet

★ 756 2026-08-09
kani 开源

轻量框架,快速构建工具调用型AI应用

kani (カニ) is a highly hackable microframework for tool-calling language models. (N···

★ 613 2026-08-09
cl-gserver 开源

用 Actor 模型写 Lisp 并发,状态不打架

Sento - Actor framework featuring actors and agents for easy access to state and asy···

★ 261 2026-10-13
ollama4j 开源

用 Java 轻松调用本地 Ollama 模型,快速集成 AI 能力

A simple Java library for interacting with Ollama server.

★ 509 2026-08-09
PaddleMIX 开源

飞桨多模态全家桶,一站式搞定图文理解与生成

Paddle Multimodal Integration and eXploration, supporting mainstream multi-modal tas···

★ 721 2026-08-09