local-LLM-with-RAG

本地跑大模型,私有文档秒变智能问答助手

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 对话助手 🍴 复刻 58 👀 关注 8
GitHub ↗
GitHub 星标 ★ 290
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,本地部署,完全免费。

项目预览

local-LLM-with-RAG 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队amscotti
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,本地部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型agentic,agentic-ai,agentic-rag,chatbot,embeddings,langchain,llm,mistral,ollama,pydantic-ai,python,rag,retrieval-augmented-generation,streamlit
GitHub 星标★ 290
上线时间2023-11-05 00:00:00
代码更新2026-07-11
仓库体积19.3 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数5

项目介绍

这是一个基于本地大语言模型(LLM)与检索增强生成(RAG)技术的对话助手项目。它旨在解决在完全本地环境中运行LLM并进行知识库问答的需求,避免数据外泄和云端依赖。项目核心能力包括:集成Ollama运行Mistral等本地模型,利用LangChain或Pydantic AI构建RAG流程,支持文档嵌入与向量检索,实现基于私有文档的智能问答。通过结合agentic AI理念,它还能进行多步推理和工具调用,提升回答的准确性和上下文相关性。项目代码清晰,适合作为学习本地RAG落地的参考,也方便开发者快速搭建自己的本地知识助手。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 290

核心亮点

  • 完全本地化部署,数据不出内网,隐私安全有保障
  • 集成Ollama和Mistral,模型下载与运行一键搞定
  • 融合LangChain与Pydantic AI,支持agentic多步推理,回答更智能

不足之处

  • 早期项目,文档和社区支持尚待完善
  • 依赖本地硬件资源,低配机器运行大模型可能卡顿

适用场景

  • 企业内部知识库问答,保护敏感数据不外传
  • 个人离线使用,在无网络环境下查询本地文档
  • 开发者快速搭建本地RAG原型,验证agentic检索效果

替代项目

LangChain、LlamaIndex、privateGPT

上一篇:gamewiki

下一篇:DiscovAI-search

同类项目推荐

rag-web-ui 开源

上传文档,即刻拥有一个能聊天的知识库助手

RAG Web UI is an intelligent dialogue system based on RAG (Retrieval-Augmented Gener···

★ 3297 2026-08-09
OpenViking 开源

把 Agent 记忆、知识、技能装进一个库,上下文不再割裂

Self-evolving Context Database for AI Agents. Unify Agent Memory, Knowledge RAG and ···

★ 41851 2026-09-12
gpt-rag-ingestion 开源

把企业杂文档自动切块向量化,喂给 Azure 搜索做多模态 RAG

Data ingestion service for the Agent Landing Zone. Processes PDFs, images, spreadshe···

★ 187 2026-10-01
kotaemon 开源

文档拖进来就能聊,界面清爽答得还靠谱

An open-source RAG-based tool for chatting with your documents.

★ 25894 2026-08-09
leviathan 开源

一条命令把海量记录变成 Agent 可查的全文记忆

Deep memory for agents over large datasets. Leviathan is a single static binary that···

★ 879 2026-10-07
daily-paper-reader 开源

每天自动推 arXiv 论文,AI 帮你读摘要答问题

开源的每日 arXiv / OpenReview 论文推荐与 AI 阅读平台,支持 GitHub Actions 自动更新、···

★ 977 2026-09-16
aeo.js 开源

让网站被 ChatGPT 等 AI 搜索轻松发现,自动生成优化文件。

Answer Engine Optimization for the modern web. Make your site discoverable by ChatGP···

★ 146 2026-08-09
awesome-llm 开源

一页清单,快速找到 LLM 框架、工具与学习资料

A curated list of awesome LLM frameworks, libraries and software.

★ 870 2026-09-14
deepsearch-toolkit 开源

用 Python 驱动深度搜索,快速挖掘科学文献新知识

Interact with the Deep Search platform for new knowledge explorations and discoverie···

★ 230 2026-08-09