rag-chatbot

把你的 Markdown 文档变成智能问答机器人

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 对话助手 🍴 复刻 113 🐛 待处理 2 👀 关注 6
GitHub ↗
GitHub 星标 ★ 443
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，Apache-2.0 许可证，可自由部署使用，无付费版本。

项目预览

rag-chatbot 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类对话助手
开发团队umbertogriffo
GitHubhttps://github.com/umbertogriffo/rag-chatbot
定价模式🏷️完全免费
价格说明开源项目，Apache-2.0 许可证，可自由部署使用，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型chatbot,chromadb,gpu,lamacpp,llama3,llm,qwen3-5,rag,sqlite,vector-database
GitHub 星标★ 443
上线时间2023-06-28 00:00:00
代码更新2026-06-12
仓库体积33.0 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

rag-chatbot 是一个基于检索增强生成（RAG）的对话助手，专门从 Markdown 文件集合中提取上下文信息来回答用户问题。它解决了传统 LLM 依赖静态知识、无法针对个人文档库进行精准问答的痛点。核心能力包括：支持多种本地 LLM（如 Llama3、Qwen3.5），通过 llama.cpp 实现 CPU/GPU 推理；集成 ChromaDB 向量数据库和 SQLite 存储，实现高效的文档检索与持久化；提供命令行交互界面，可快速导入 Markdown 文件并建立知识库。项目结构简洁，适合个人知识库问答、内部文档查询等场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 443

技术标签

使用教程

难度：进阶 约 40 分钟 部署方式：容器部署 5 步

环境要求

  • Docker Compose
  • 内存 16GB 起

安装与启动步骤

  1. 1拉仓库

    它是带界面与后端的完整 RAG 应用。

  2. 2用 compose 起步

    compose 会同时起应用与本地推理服务。

    docker compose up -d

  3. 3等模型加载完

    首次会拉模型文件，进度看日志。

    docker compose logs -f

  4. 4导入自己的文档

    在界面上传或按目录投放，建索引后再问。

  5. 5换成外部模型服务

    不想本地推理就改配置指向兼容接口。

如何确认成功

导入一份 PDF 后问其中的细节，回答能引用到原文段落，且断开外网仍然可用（走本地推理时）

注意事项

  • 它把本地推理与 RAG 界面打包在一起，适合完全离线的场景。
  • 本地模型答中文长文档效果一般，追求质量要换更大的模型。
  • 索引与模型文件都落磁盘，空间要留够。
  • 完全离线意味着模型无法更新，知识截止时间固定。
  • 项目仍在迭代，接口与目录结构可能变。

核心亮点

  • 本地化运行，数据隐私安全，支持 CPU/GPU 推理
  • 支持多种主流 LLM（Llama3、Qwen3.5），灵活切换
  • 基于 ChromaDB 向量检索，答案引用上下文，准确度高

不足之处

  • 仅支持 Markdown 格式，其他文档类型需自行转换
  • 文档/社区待观察

适用场景

  • 个人知识库问答（如笔记、书籍整理）
  • 团队内部文档智能检索与答疑
  • 离线环境下的文档问答系统

替代项目

LangChain、LlamaIndex、Dify

上一篇：MindSQL

下一篇：mlx-embeddings

同类项目推荐

anysearch-skill 开源

给 AI 智能体一键装上实时搜索与整页抓取能力

Unified real-time search engine skill for AI agents. Supports general web search, ve···

★ 6858 2026-10-11
Awesome-AI-Pedia 开源

一站搜罗 AI 资源，找项目、学路线、备面试不迷路

AI skills大全 mcp ai知识库 Agent 全维度 AI 资源百科，DSH插件 收录大模型、智能 Agent、···

★ 663 2026-09-20
mango-finder 开源

说句话就能跨设备找到文件，告别翻文件夹

Search your files across your devices with natural language | 使用自然语言跨设备搜索···

★ 253 2026-08-09
lossless-memory 开源

不摘要不丢细节，每句话带时间戳随时翻旧账

Lossless long-term memory for a personal AI: never summarize, keep every line, put a···

★ 168 2026-09-24
ChatKBQA 开源

用大模型生成+检索，让知识库问答更简单准确

[ACL 2024] Official resources of "ChatKBQA: A Generate-then-Retrieve Framework for K···

★ 339 2026-08-09
Ataru 开源

把本地代理历史变成秒级可搜的记忆库

High-performance AI memory retrieval for local agent history — a Rust search core (···

★ 361 2026-09-12
Awesome-RAG 开源

一站式收藏 RAG 前沿资源，快速掌握增强生成技术

Awesome RAG: A resource of Retrieval-Augmented Generation (RAG) for LLMs, focusing o···

★ 521 2026-08-09
obsidian-Smart2Brain 开源

让 Obsidian 笔记开口说话，用聊天方式秒查知识库

A free, open-source Obsidian plugin that makes your vault smarter: better search, an···

★ 1347 2026-08-09
cognito-ai-search 开源

开源引擎配上大模型，搜得全又答得明白

Powerful search page powered by LLMs and SearXNG

★ 283 2026-08-09