rag

用NVIDIA官方蓝图,快速搭出生产级RAG流水线

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 347 🐛 待处理 74 👀 关注 17 ⚠️ 作者已归档(停止维护)
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 821
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可免费使用和部署。

项目预览

rag 项目界面预览图
图片来源:项目官网

项目数据

分类搜索知识
开发团队NVIDIA-AI-Blueprints
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型blueprint,nim,rag,retrieval-augmented-generation
GitHub 星标★ 821
上线时间2024-12-11 00:00:00
代码更新2026-11-03
仓库体积32.8 MB
本站数据更新2026-11-10
维护状态较活跃
收录时间2026-08-09
浏览次数2

项目介绍

这是NVIDIA推出的RAG参考蓝图,旨在为开发者提供一套基础但完整的检索增强生成(RAG)流水线实现。它解决了构建RAG系统时常见的架构设计、组件选型和性能调优难题,通过预置的模块化组件(如文档加载、向量化、检索、生成等)和清晰的代码示例,帮助开发者快速理解并搭建自己的RAG应用。核心能力包括:支持多种文档格式的解析与分块、集成主流向量数据库(如FAISS、Milvus)、提供灵活的检索策略(如混合检索、重排序)、以及无缝对接NVIDIA的加速推理服务(如TensorRT-LLM)来优化生成性能。该蓝图特别适合作为企业级RAG项目的起点,能够显著降低从概念验证到生产部署的工程复杂度。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 821

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 30 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • NVIDIA GPU(部分蓝图)
  • Docker
  • NGC API Key

安装与启动步骤

  1. 1确认是蓝图仓库

    这是 NVIDIA 的 RAG 参考实现集合,不是单一应用。

    git clone https://github.com/NVIDIA-AI-Blueprints/rag.git
    cd rag
  2. 2装技能入口

    新版本用 skills 把蓝图接进编码助手。

    npx skills add .
  3. 3读蓝图目录

    每个子目录是一个独立可部署的蓝图,看清楚再挑。

    ls -d */ | head -n 20
  4. 4起向量库

    RAG 蓝图基本都依赖向量库,先按子目录的 compose 起依赖。

    docker compose up -d

如何确认成功

子目录里的 notebook 或服务能完成一次检索问答。

注意事项

  • 蓝图类仓库的重点是架构参考,直接上生产前要换掉示例数据与鉴权。
  • NGC 登录失败是最常见卡点,先 docker login nvcr.io。

核心亮点

  • NVIDIA官方出品,技术背书强,代码质量有保障
  • 模块化设计,可灵活替换向量库和LLM,适配不同场景
  • 内置性能优化(如TensorRT-LLM),生成速度优于普通实现

不足之处

  • 依赖NVIDIA生态(如GPU、特定库),对非NVIDIA环境不友好
  • 文档和社区尚在早期,遇到问题可参考资源有限

适用场景

  • 企业快速搭建知识库问答系统
  • 研究RAG架构并作为教学参考
  • 需要高性能生成能力的生产环境

替代项目

LangChain、LlamaIndex、Haystack

上一篇:local-rag

下一篇:mini-rag

同类项目推荐

msgvault 开源

把一辈子的邮件和聊天存进本地,随时离线搜索和提问

Archive a lifetime of email and chat. Offline search, analytics, and AI query over y···

★ 2185 2026-10-24
chatd 开源

本地文档直接聊,隐私安全答案准

Chat with your documents using local AI

★ 1078 2026-08-09
contextgem 开源

用几行代码从文档中抽取结构化数据,告别繁琐提示词

Extract structured data and insights from documents using LLMs and decision models

★ 2081 2026-08-09
MemGallery 开源

把语音、图片、笔记和链接收进一个本地 AI 记忆库,随时搜得到

MemGallery: A smart memory bank to store all your memories from audio, images, text,···

★ 107 2026-11-07
documentation-helper 开源

用 RAG 快速搭建文档问答助手,让文档秒变智能客服

Reference implementation of a RAG-based documentation helper using LangChain, Pineco···

★ 365 2026-08-09
llm-docs-builder 开源

把 Markdown 文档变成 LLM 和 RAG 友好的格式,自动生成 llms.txt。

Transform and optimize your markdown documentation for Large Language Models (LLMs) ···

★ 95 2026-08-09
RivalSearchMCP 开源

免密钥多源搜索,让智能体拿到确定性结构化情报。

Deterministic research MCP server on FastMCP 3 — 5-engine web search, 9-platform so···

★ 137 2026-08-09
ask-my-pdf 开源

上传 PDF,直接提问,答案即刻呈现

A Webapp that uses Retrieval Augmented Generation (RAG) and Large Language Models to···

★ 109 2026-08-09