rag-chatbot

本地跑通多PDF问答,隐私安全零门槛

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 110 🐛 待处理 8 👀 关注 13
GitHub ↗
GitHub 星标 ★ 692
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,本地部署,完全免费

项目预览

rag-chatbot 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队datvodinh
定价模式🏷️完全免费
价格说明开源项目,本地部署,完全免费
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型chatbot,chatbot-ui,chatbots,gradio,llama-index,llama3,llm,mistral,ollama,question-answering,rag
GitHub 星标★ 692
上线时间2024-03-16 00:00:00
代码更新2025-10-23
仓库体积8.8 MB
本站数据更新2026-11-08
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

rag-chatbot 是一个基于 RAG(检索增强生成)技术的本地 PDF 对话工具,允许用户直接与多个 PDF 文档进行自然语言交互。它解决了传统 PDF 阅读器无法快速定位信息、以及通用大模型无法访问私有文档内容的问题。项目利用 Ollama 运行本地大模型(如 Llama3、Mistral),结合 LlamaIndex 构建文档索引,并通过 Gradio 提供简洁的聊天界面。核心能力包括:多 PDF 批量加载与解析、语义检索、基于上下文的问答、完全本地化运行(保护隐私)、支持多种开源 LLM 切换。用户无需编写代码,即可上传 PDF 并开始提问,适合个人知识库管理、学术文献阅读、法律合同审查等场景。项目处于早期阶段,代码结构清晰,易于扩展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 692

使用教程

难度:进阶 约 40 分钟 部署方式:Docker 部署 5 步

环境要求

  • Docker
  • 模型 API Key
  • 待问答的文档

安装与启动步骤

  1. 1克隆仓库

    文档问答机器人,compose 已编排好后端与向量库。

    git clone https://github.com/datvodinh/rag-chatbot.git
  2. 2准备密钥

    在环境变量里填模型与向量库的凭据。

  3. 3起容器

    首次构建会装依赖,耗时取决于网络。

    docker compose up --build
  4. 4本地跑通问答

    先灌一份文档确认检索命中,再批量导入。

    uv run python -m rag_chatbot --host localhost
  5. 5需要外网时用隧道

    本地调试想给外部访问,用 ngrok 开临时通道。

    bash ./scripts/run.sh --ngrok

如何确认成功

界面能就灌入文档给出正确回答

注意事项

  • ngrok 通道是临时的,别当生产入口。
  • 文档切块大小直接影响召回,先调这个再调模型。

核心亮点

  • 完全本地运行,无需联网,保护文档隐私
  • 支持 Llama3、Mistral 等多种开源模型,灵活切换
  • 基于 LlamaIndex 的检索增强,回答有出处可追溯

不足之处

  • 文档/社区待观察
  • 早期项目,功能相对单一,缺少高级文档处理(如表格、扫描件)

适用场景

  • 个人本地知识库问答
  • 学术论文批量阅读与摘要提取
  • 企业内部敏感文档的离线检索

替代项目

privateGPT、LocalGPT、quivr

上一篇:IncarnaMind

下一篇:llm-search

同类项目推荐

Foxel 开源

自建私有云盘,用大白话就能搜到照片和文件

A highly extensible private cloud storage solution for individuals and teams, featur···

★ 1153 2026-10-11
vector-graph-rag 开源

纯向量搜索实现图RAG,多跳推理性能SOTA

Graph RAG with pure vector search, achieving SOTA performance in multi-hop reasoning···

★ 283 2026-08-09
cool-ai-stuff 开源

免费AI资源一网打尽,省时省力找替代

This repository contains a list of free to use AI APIs and sites. We are NOT endorsi···

★ 1209 2026-08-09
deepRAG 开源

混合实验技术,让 RAG 检索结果更准更干净

Uses a blend of experimental techniques to enhance LLM RAG resultsets.

★ 105 2026-10-02
graphrag-toolkit 开源

把文档变成知识图谱,让 AI 检索答得更准

Python toolkit for building graph-enhanced GenAI applications

★ 454 2026-11-02
korvus 开源

把 RAG 全流程塞进一条 SQL,搜索问答一步到位

Korvus is a search SDK that unifies the entire RAG pipeline in a single database que···

★ 1474 2026-08-09
advanced-rag 开源

跟着可运行代码,系统掌握高级 RAG 构建与优化

Jupyter Notebooks for Mastering LLM with Advanced RAG Course

★ 390 2026-08-09
vectordb-recipes 开源

照着做,快速搭建多模态 RAG 和 Agent 应用

Resource, examples & tutorials for multimodal AI, RAG and agents using vector search···

★ 987 2026-08-09
Awesome-RAG 开源

一站式收藏 RAG 资源,快速选型不迷路

Awesome list of Retrieval-Augmented Generation (RAG) applications in Generative AI.

★ 1423 2026-08-09