项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-02 · 当前星标 ★ 57636
技术标签
使用教程
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- 一个正在运行的 OpenAI 兼容推理服务器(如 Ollama、llama.cpp、vLLM),需实现 /v1/chat/completions 与 /v1/m
- Python 运行环境(项目语言为 Python,README 未给出具体版本)
- 能访问官方 Quickstart 文档以完成安装步骤
- 可选:若走 Docker 方式,需要本机已安装 Docker
安装与启动步骤
-
1准备推理服务器
PrivateGPT 不自己运行模型,先启动一个 OpenAI 兼容的 LLM 服务,Ollama 是最容易的起点。
-
2安装 PrivateGPT
README 节选中安装命令被截断,请以官方 Quickstart 文档为准,选择 Docker 或本地方式安装。
-
3配置推理地址
通过环境变量 OPENAI_API_BASE 把 PrivateGPT 指向你的推理服务器,不设置则无法调用模型。
export OPENAI_API_BASE=http://localhost:11434/v1 -
4启动服务
按官方 Quickstart 文档启动 PrivateGPT。API 是产品主体,内置工作台 UI 位于 /ui。
-
5验证接口
确认 /v1/models 能列出模型、/v1/chat/completions 可正常对话,并打开 /ui 工作台。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
OPENAI_API_BASE | 是 | 指向任意 OpenAI 兼容推理服务器的地址,PrivateGPT 通过它调用模型 | http://localhost:11434/v1 |
如何确认成功
内置工作台 /ui 能正常打开,且 /v1/models 与 /v1/chat/completions 接口可正常返回。
常见问题
Q:PrivateGPT 会自己下载和运行模型吗?
A:不会。它只提供 API 层,模型由外部 OpenAI 兼容推理服务器提供,通过 OPENAI_API_BASE 连接。
Q:支持哪些推理后端?
A:任何实现 /v1/chat/completions 和 /v1/models 的服务都可用,例如 Ollama、llama.cpp、vLLM。
Q:有图形界面吗?
A:有。内置工作台 UI 位于 /ui,用于测试和演示,但官方说明 API 才是产品主体。
Q:完整的安装和模型配置文档在哪?
A:见官方 Quickstart:https://docs.privategpt.dev/getting-started/quickstart
注意事项
- README 节选中的安装命令被截断,本教程未编造任何安装命令,实际安装请以官方 Quickstart 文档为准。
- PrivateGPT 本身不运行模型,必须自备 OpenAI 兼容的推理服务器。
- 项目分类为搜索知识,核心能力包括 RAG、skills、tools、MCP、text-to-sql 等。
核心亮点
- 提供完整 API 层,RAG、工具调用、MCP、text-to-sql 开箱即用,省去从零搭建
- 兼容任意 OpenAI 兼容推理服务,可自由切换本地模型,避免厂商锁定
- 完全本地化部署,数据不出内网,适合对隐私和合规要求高的场景
不足之处
- 本地模型效果受硬件和模型质量限制,复杂推理与云端仍有差距
- 配置与调优门槛较高,非技术用户上手需要一定学习成本
适用场景
- 企业内部敏感文档的离线问答与知识检索
- 法律、医疗、金融等合规行业的私有 AI 助手
- 本地部署的文档分析、数据库查询与自动化工具调用
替代项目
AnythingLLM、Danswer、Quivr
下一篇:graph-rag
同类项目推荐
azure-search-openai-javascript
开源
用 Azure 检索+大模型,快速搭出带引用的企业问答机器人
A TypeScript sample app for the Retrieval Augmented Generation pattern running on Az···
knowledge
开源
把网站和文件存起来,随时搜索还能直接聊。
Knowledge is a tool for saving, searching, accessing, exploring and chatting with al···
ontobricks
开源
把 Databricks 表变成可推理知识图谱,直接喂给 AI Agent
Transforms Databricks Unity Catalog tables into a dynamic knowledge graph, with onto···
nucliadb
开源
把任意数据变成可搜索的 AI 知识库,快速搭建 RAG 应用。
NucliaDB, The AI Search database for RAG
awesome-decision-models
开源
一页找齐决策模型 API、运行时与论文
A curated list of decision models (System One / typed decision models): hosted APIs,···
orama
开源
2KB 内实现全文+向量+混合搜索,浏览器边缘都能跑
A complete search engine and RAG pipeline in your browser, server or edge network wi···
ketch
开源
让 AI 代理秒搜网页,无状态抓取快人一步
Fast, stateless CLI for web search and scrape. Built for AI agents.
Des-CTF-Knowledge
开源
CTF 资料一库打尽,AI 问答秒查漏洞与题解
2026 CTF 知识库:12 篇 Web 漏洞深度文章 + 1049 篇历年大赛 WP + 110 个解题脚本 + Payl···
obsidian-llm-wiki
开源
笔记和PDF自动变知识图谱,还能问答
Karpathy's LLM Wiki implementation plugin for Obsidian - turns notes and PDFs into a···
