local-rag

本地私有化部署，让敏感文档也能安全做 RAG 问答

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 搜索知识 🍴 复刻 95 🐛 待处理 11 👀 关注 10
GitHub ↗
GitHub 星标 ★ 766
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目，GPL-3.0许可，本地部署，完全免费。

项目预览

local-rag 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队jonfairbanks
GitHubhttps://github.com/jonfairbanks/local-rag
定价模式🏷️完全免费
价格说明开源项目，GPL-3.0许可，本地部署，完全免费。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议GPL-3.0
主要语言Python
技术栈/模型large-language-models,llm,ollama,rag,retrieval-augmented-generation
GitHub 星标★ 766
上线时间2024-02-15 00:00:00
代码更新2026-11-09
仓库体积56.6 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-09
浏览次数3

项目介绍

local-rag 是一个基于 Python 的本地化 RAG（检索增强生成）工具，专注于让用户在不依赖任何第三方服务、不将敏感数据传出本地网络的前提下，完成文档的摄取、索引和检索增强生成。它支持对接开源大语言模型（LLM），用户可以将本地文件（如 PDF、TXT 等）导入系统，系统会进行切分、向量化并存储，随后通过本地 LLM 实现基于私有知识的问答。核心能力包括：本地化部署、隐私保护、与主流开源 LLM 集成、简易的文件摄取流程。该项目解决了企业或个人在敏感数据场景下无法使用云端 RAG 服务的痛点，提供了完全离线、可控的 RAG 解决方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 766

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门 约 20 分钟 部署方式：本地安装 4 步

环境要求

  • Python 3.10+
  • Ollama 或本地推理服务

安装与启动步骤

  1. 1克隆

    离线可用的检索增强生成。

    git clone https://github.com/jonfairbanks/local-rag.git
cd local-rag

  2. 2装依赖

    主要是向量库与模型客户端。

    pip install -r requirements.txt

  3. 3拉本地模型

    用 Ollama 起一个即可。

    ollama pull llama3.2

  4. 4建索引并提问

    先塞几个文档进去。

    python ingest.py --path ./docs

如何确认成功

提问时答案引用了你喂进去的文档内容。

注意事项

  • 完全离线是它的卖点，适合涉密资料。
  • 切分粒度直接影响召回，先按段落切。
  • 本地模型上下文短，别塞太多片段。

核心亮点

  • 完全离线运行，数据不出本地网络，隐私零泄露
  • 支持多种文件格式摄取，集成主流开源 LLM
  • 部署简单，适合快速搭建私有知识库问答

不足之处

  • 项目早期，文档和社区支持有待完善
  • 对大规模文档的检索性能优化可能不足

适用场景

  • 企业内部敏感文档的智能问答
  • 个人知识库的本地化管理与检索
  • 离线环境下的 RAG 应用开发

替代项目

LangChain、LlamaIndex、privateGPT

上一篇：album-ai

下一篇：rag

同类项目推荐

chatWeb 开源

上传文档或网址，直接对话获取核心答案

ChatWeb can crawl web pages, read PDF, DOCX, TXT, and extract the main content, then···

★ 916 2026-08-09
RAG_Hack 开源

跟着微软示例，快速搭出你的 RAG 应用

Hack Together: RAG Hack | Register, Learn, Hack

★ 524 2026-08-09
notebooklm-skill 开源

让 Claude Code 直接查你的 NotebookLM 私有文档，答案带引用

Use this skill to enable Claude Code to communicate directly with your Google Notebo···

★ 7791 2026-09-18
union-search-skill 开源

一次搜索 51 个渠道，按链接去重汇总

一次搜索 51 个渠道，默认返回每个渠道取到的全部结果，再按页面地址去重。覆盖网页、GitH···

★ 770 2026-11-07
Knowledge-Base-Self-Hosting-Kit 开源

本地部署的智能知识库，同时读懂代码和文档

A Docker-powered RAG system that understands the difference between code and prose. ···

★ 356 2026-08-09
search_with_lepton 开源

用对话代替关键词，快速搭建智能搜索演示

Building a quick conversation-based search demo with Lepton AI.

★ 8045 2026-08-09
geo-seo-claude 开源

让网站被 AI 搜索引用，一键出诊断报告

GEO-first SEO skill for Claude Code. Comprehensive AI search optimization for any we···

★ 11600 2026-10-01
pg_vectorize 开源

在 Postgres 里直接搞定全文+语义搜索，不用额外部署向量库

Full-text and semantic search on any Postgres

★ 835 2026-08-09