ollama_pdf_rag

本地跑通 PDF 问答,数据不出门

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 199 🐛 待处理 37 👀 关注 10
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 550
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,本地部署,完全免费。

项目预览

ollama_pdf_rag 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队tonykipkemboi
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,本地部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型langchain,nextjs,ollama,pdf,rag,vercel-ai-sdk
GitHub 星标★ 550
上线时间2024-04-08 00:00:00
代码更新2026-04-16
仓库体积13.6 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数2

项目介绍

ollama_pdf_rag 是一个全栈演示项目,展示了如何构建本地 RAG(检索增强生成)管道,用于与 PDF 文档对话。它解决的是在本地环境中,利用 Ollama 运行大语言模型,实现对 PDF 文件进行问答的需求,无需将数据发送到云端。核心能力包括:PDF 解析与文本提取、文本分块、向量化存储、基于语义的检索,以及将检索结果与用户问题一起提交给本地 LLM 生成回答。项目采用 TypeScript 编写,前后端一体,易于部署和二次开发,适合作为学习 RAG 架构和构建本地知识库问答系统的参考实现。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 550

技术标签

使用教程

难度:进阶 约 45 分钟 部署方式:本地安装 5 步

环境要求

  • Ollama 本地运行
  • Node.js 18+
  • Python 3.10+

安装与启动步骤

  1. 1拉一个本地模型

    先装 Ollama,再按 .env 里配的模型名拉下来,全程不联网也能跑。

    ollama pull llama3.2
  2. 2配环境变量

    把示例配置复制成实际配置,改模型名和向量库路径。

    cp .env.example .env
  3. 3装前端依赖

    Next.js 是主界面,装完就能起。

    npm install
  4. 4一次起全套

    脚本会把 Next.js、FastAPI 后端和 Streamlit 一起拉起来。

    ./start_all.sh
  5. 5传两份 PDF 试问

    别只传一份,检索效果要看跨文档综合能力。

如何确认成功

传两份 PDF,问一个必须同时引用两者才能回答的问题,答案里要能看到两个来源文件的引用标注

注意事项

  • PDF 全程不出本机,适合处理不能外传的文档。
  • 检索层是 LangChain + ChromaDB 的多查询检索,不是简单关键词匹配。
  • Next.js 是推荐界面,Streamlit 和 Jupyter 更适合调参试验。
  • 文档一多入库就慢,先小批量验证切块效果再扩容。

核心亮点

  • 全栈 TypeScript 实现,前后端一体,易于理解和修改
  • 完全本地化运行,数据隐私安全,无需联网
  • 演示了完整的 RAG 流程,从 PDF 解析到检索生成,学习价值高

不足之处

  • 早期项目,文档和社区支持待观察
  • 可能缺少对复杂 PDF 格式(如扫描件、表格)的优化处理
  • 性能受限于本地硬件资源

适用场景

  • 本地知识库问答,如个人文档管理
  • 学习 RAG 架构和本地 LLM 应用开发
  • 离线环境下的 PDF 内容检索与问答

替代项目

LangChain + Chroma、PrivateGPT、LlamaIndex

上一篇:wdoc

下一篇:LinearRAG

同类项目推荐

llm-reader 开源

一键把网页变成 LLM 能读懂的干净文本,RAG 抓取更省心。

Turn Webpage to LLM friendly input text. Similar to Firecrawl and Jina Reader API. M···

★ 315 2026-08-09
anykb 开源

私有资料丢进去,带出处问答的透明 RAG 助手

AnyKB — 私有 RAG 知识库 + 透明 Agent

★ 42 2026-10-02
reader 开源

给 URL 加个前缀,网页秒变 LLM 能读的 Markdown

Convert any URL to an LLM-friendly input with a simple prefix https://r.jina.ai/

★ 12247 2026-08-09
What-to-eat-today 开源

问一句今天吃啥,图RAG帮你从知识图谱里挑出对味的那道菜。

️基于图RAG技术的AI美食推荐助手 - Datawhale all-in-rag教程实战案例,集成Neo4j图数据库···

★ 238 2026-08-09
dropbox-ai-chat 开源

用自然语言问 Dropbox,秒回文件里的答案

AI-powered Dropbox search tool for private documents

★ 168 2026-08-09
Pensieve 开源

把 LLM 记住你的过程画出来,还能动手改

Observe how memory shapes an answer. Pensieve is an interactive system for visualiz···

★ 1321 2026-09-25
qwksearch-research-agent 开源

把互联网变成思维导图,自动搜索、提取并生成研究报告。

Reimagine the Internet as Self-Organizing Mind Map STREAM: Search with Top Resul···

★ 78 2026-08-09
OpenSearch-VL 开源

让AI看懂图片并精准搜索,训练多模态搜索智能体

OpenSearch-VL provides a fully open recipe for training strong multimodal deep searc···

★ 307 2026-08-09
orangeo-ai-visibility-skill 开源

一键扫描,让品牌在AI搜索中脱颖而出

Open-source GEO / AEO skill for AI visibility readiness: check robots.txt, llms.txt,···

★ 145 2026-08-09