private-gpt

本地文档接大模型,离线问答不泄密

开源 🏷️基础免费,高级付费 ✅ 目前可打开 搜索知识 🍴 复刻 7626 🐛 待处理 14 👀 关注 447
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 57636
维护状态 活跃
是否开源 开源
定价模式 🏷️基础免费,高级付费 支持限时试用 · 开源版免费自部署,Zylon云服务提供付费增值方案,定价待确认

项目预览

private-gpt 项目界面预览图
图片来源:项目官网

项目数据

分类搜索知识
开发团队zylon-ai
定价模式🏷️基础免费,高级付费
价格说明开源版免费自部署,Zylon云服务提供付费增值方案,定价待确认
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai,ai-tools,on-premise
GitHub 星标★ 57636
上线时间2023-05-02 00:00:00
代码更新2026-11-13
仓库体积221.4 MB
本站数据更新2026-11-15
维护状态活跃
收录时间2026-10-02
浏览次数3

项目介绍

PrivateGPT 是一个面向本地私有化 AI 应用的完整 API 层,核心目标是让企业或个人在完全离线的环境下构建类似 ChatGPT 的问答与检索系统。它解决了敏感数据不能上传公有云、又希望利用大模型能力的问题:通过 RAG(检索增强生成)把本地文档、数据库内容接入模型,同时提供技能、工具调用、MCP 协议、text-to-sql 等能力,让模型能查资料、执行操作、访问结构化数据。项目兼容任意 OpenAI 兼容的推理服务,可对接本地部署的模型,也支持切换不同后端。整体以 Python 实现,提供 API 接口和可扩展的模块化架构,适合做企业内部知识库、文档助手和私有 AI 中台。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-02 · 当前星标 ★ 57636

技术标签

使用教程

难度:进阶 约 20 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 一个正在运行的 OpenAI 兼容推理服务器(如 Ollama、llama.cpp、vLLM),需实现 /v1/chat/completions 与 /v1/m
  • Python 运行环境(项目语言为 Python,README 未给出具体版本)
  • 能访问官方 Quickstart 文档以完成安装步骤
  • 可选:若走 Docker 方式,需要本机已安装 Docker

安装与启动步骤

  1. 1准备推理服务器

    PrivateGPT 不自己运行模型,先启动一个 OpenAI 兼容的 LLM 服务,Ollama 是最容易的起点。

  2. 2安装 PrivateGPT

    README 节选中安装命令被截断,请以官方 Quickstart 文档为准,选择 Docker 或本地方式安装。

  3. 3配置推理地址

    通过环境变量 OPENAI_API_BASE 把 PrivateGPT 指向你的推理服务器,不设置则无法调用模型。

    export OPENAI_API_BASE=http://localhost:11434/v1
  4. 4启动服务

    按官方 Quickstart 文档启动 PrivateGPT。API 是产品主体,内置工作台 UI 位于 /ui。

  5. 5验证接口

    确认 /v1/models 能列出模型、/v1/chat/completions 可正常对话,并打开 /ui 工作台。

关键配置

配置项必填说明示例
OPENAI_API_BASE是指向任意 OpenAI 兼容推理服务器的地址,PrivateGPT 通过它调用模型http://localhost:11434/v1

如何确认成功

内置工作台 /ui 能正常打开,且 /v1/models 与 /v1/chat/completions 接口可正常返回。

常见问题

Q:PrivateGPT 会自己下载和运行模型吗?

A:不会。它只提供 API 层,模型由外部 OpenAI 兼容推理服务器提供,通过 OPENAI_API_BASE 连接。

Q:支持哪些推理后端?

A:任何实现 /v1/chat/completions 和 /v1/models 的服务都可用,例如 Ollama、llama.cpp、vLLM。

Q:有图形界面吗?

A:有。内置工作台 UI 位于 /ui,用于测试和演示,但官方说明 API 才是产品主体。

Q:完整的安装和模型配置文档在哪?

A:见官方 Quickstart:https://docs.privategpt.dev/getting-started/quickstart

注意事项

  • README 节选中的安装命令被截断,本教程未编造任何安装命令,实际安装请以官方 Quickstart 文档为准。
  • PrivateGPT 本身不运行模型,必须自备 OpenAI 兼容的推理服务器。
  • 项目分类为搜索知识,核心能力包括 RAG、skills、tools、MCP、text-to-sql 等。

核心亮点

  • 提供完整 API 层,RAG、工具调用、MCP、text-to-sql 开箱即用,省去从零搭建
  • 兼容任意 OpenAI 兼容推理服务,可自由切换本地模型,避免厂商锁定
  • 完全本地化部署,数据不出内网,适合对隐私和合规要求高的场景

不足之处

  • 本地模型效果受硬件和模型质量限制,复杂推理与云端仍有差距
  • 配置与调优门槛较高,非技术用户上手需要一定学习成本

适用场景

  • 企业内部敏感文档的离线问答与知识检索
  • 法律、医疗、金融等合规行业的私有 AI 助手
  • 本地部署的文档分析、数据库查询与自动化工具调用

替代项目

AnythingLLM、Danswer、Quivr

上一篇:advanced-rag-techniques

下一篇:graph-rag

同类项目推荐

azure-search-openai-javascript 开源

用 Azure 检索+大模型,快速搭出带引用的企业问答机器人

A TypeScript sample app for the Retrieval Augmented Generation pattern running on Az···

★ 326 2026-09-12
knowledge 开源

把网站和文件存起来,随时搜索还能直接聊。

Knowledge is a tool for saving, searching, accessing, exploring and chatting with al···

★ 1465 2026-08-09
ontobricks 开源

把 Databricks 表变成可推理知识图谱,直接喂给 AI Agent

Transforms Databricks Unity Catalog tables into a dynamic knowledge graph, with onto···

★ 474 2026-09-30
nucliadb 开源

把任意数据变成可搜索的 AI 知识库,快速搭建 RAG 应用。

NucliaDB, The AI Search database for RAG

★ 723 2026-08-09
awesome-decision-models 开源

一页找齐决策模型 API、运行时与论文

A curated list of decision models (System One / typed decision models): hosted APIs,···

★ 717 2026-10-04
orama 开源

2KB 内实现全文+向量+混合搜索,浏览器边缘都能跑

A complete search engine and RAG pipeline in your browser, server or edge network wi···

★ 10608 2026-10-02
ketch 开源

让 AI 代理秒搜网页,无状态抓取快人一步

Fast, stateless CLI for web search and scrape. Built for AI agents.

★ 751 2026-08-09
Des-CTF-Knowledge 开源

CTF 资料一库打尽,AI 问答秒查漏洞与题解

2026 CTF 知识库:12 篇 Web 漏洞深度文章 + 1049 篇历年大赛 WP + 110 个解题脚本 + Payl···

★ 496 2026-10-02
obsidian-llm-wiki 开源

笔记和PDF自动变知识图谱,还能问答

Karpathy's LLM Wiki implementation plugin for Obsidian - turns notes and PDFs into a···

★ 795 2026-09-16