
rag
用 txtai 快速搭建 RAG,让 LLM 回答你的私有数据问题。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 466
使用教程
环境要求
- Docker
- NVIDIA GPU
安装与启动步骤
-
1直接用镜像
官方镜像已经包含全部依赖。
docker run -d --gpus=all -it -p 8501:8501 neuml/rag -
2或用本地模型
不接外部服务也能跑。
docker run -d --gpus=all -it -p 8501:8501 -e LLM=openai/gpt-oss-20b neuml/rag -
3接自己的检索语料
挂载目录并指定嵌入集。
docker run -d --gpus=all -it -p 8501:8501 -e EMBEDDINGS=neuml/arxiv neuml/rag -
4换成商业模型接口
给 Key 即可。
docker run -d --gpus=all -it -p 8501:8501 -e LLM=gpt-5.1 -e OPENAI_API_KEY=your-api-key neuml/rag
如何确认成功
容器起来后能上传文档并基于它提问,回答里能定位到具体段落
注意事项
- 它是把检索增强做成开箱即用镜像的项目,背后是另一个检索库。
- 全部能力靠环境变量切换:模型、嵌入集、文档解析后端都能换。
- 默认要 GPU,纯 CPU 环境需要自己改镜像。
- 本地模型与外部接口两种模式成本结构完全不同,先想清楚再选。
核心亮点
- 基于 txtai,检索与生成一体化,配置简单,上手快
- 支持多种文档格式,便于处理本地私有数据
- 代码量少,结构清晰,适合学习 RAG 核心流程
不足之处
- 项目早期,文档和社区支持有限
- 功能相对基础,高级特性(如重排序、混合检索)待完善
适用场景
- 企业内部知识库问答
- 个人文档智能检索与摘要
- RAG 技术学习与原型验证
替代项目
LangChain、LlamaIndex、Haystack
上一篇:awesome-rag
下一篇:LightningRAG
同类项目推荐
Awesome-RAG
开源
一站式收藏 RAG 资源,快速选型不迷路
Awesome list of Retrieval-Augmented Generation (RAG) applications in Generative AI.
llama-github
开源
让 AI 编程助手实时引用 GitHub 真实代码,回答更靠谱。
Llama-github is an open-source Python library that empowers LLM Chatbots, AI Agents,···
DeepWideResearch
开源
自定义深度和广度的智能体研究,多源信息自动整合成报告
Agentic RAG for any scenario. Customize sources, depth, and width
graphiti
开源
让AI智能体实时构建可追溯的知识图谱,告别静态RAG
Build Real-Time Knowledge Graphs for AI Agents
awesome-ai-tools
开源
一站式AI工具导航,按需快速查找
Finding the AI tools you need!
nextjs-openai-doc-search
开源
用自然语言提问,秒级获取带引用的文档答案
Template for building your own custom ChatGPT style doc search powered by Next.js, O···
Foxel
开源
自建私有云盘,用大白话就能搜到照片和文件
A highly extensible private cloud storage solution for individuals and teams, featur···
openchatbi
开源
用聊天代替写SQL,一句话查数出图
OpenChatBI is an intelligent chat-based BI tool powered by large language models, de···
ontocast
开源
用本体约束智能体,把文本自动抽成规范RDF三元组
Agentic Ontology Assisted Framework for Semantic Triple Extraction