h2ogpt

本地私有部署，让 GPT 安全处理你的文档和多媒体

h2oGPT 是一个由 H2O.ai 开发的私有化大语言模型聊天助手，旨在让用户完全掌控自己的数据，实现 100% 私密的本地 AI 对话。它解决了企业或个人在使用云端 GPT 时面临的数据隐私泄露风险，支持离线运行，并集成了文档问答、图像和视频理解等多媒体处理能力。核心功能包括：连接多种本地模型（如 Llama 2、Mixtral、Ollama、llama.cpp 等），提供向量数据库（如 Chroma、Weaviate）进行文档检索增强生成（RAG），支持 PDF、Word、文本等多格式文档的问答，以及多用户并发、流式输出、UI 界面等。h2oGPT 强调企业级安全，符合 FedRAMP 标准，适合需要严格数据合规的场景。

开源 unknown 对话助手

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 11965

维护状态低维护

是否开源是

定价模式 unknown

项目数据

分类对话助手

开发团队h2oai

所属国家

官网地址http://h2o.ai

GitHubhttps://github.com/h2oai/h2ogpt

定价模式unknown

价格说明开源免费，提供在线Demo，但具体定价信息待确认

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai,chatgpt,embeddings,fedramp,generative,gpt,gpt4all,llama2,llm,mixtral,pdf,private,privategpt,vectorstore

GitHub 星标★ 11965

30天Star增速

HF 下载量

上线时间2023-03-24 00:00:00

最近更新2026-09-21 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数5

使用教程

难度：进阶约 30 分钟部署方式：Docker 6 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

已安装 git，用于克隆 GitHub 仓库
Docker（README 推荐，Linux/Windows/MAC 可获得完整功能）
操作系统为 Linux、Windows 10/11 或 macOS
可选 GPU；无 GPU 时可用 CPU 运行 HF、LLaMa.cpp、GPT4ALL 模型

安装与启动步骤

1克隆项目仓库

从 GitHub 拉取 h2oGPT 源码，README 未提供其他安装包或 pip 安装方式，因此以克隆仓库为起点。
```
git clone https://github.com/h2oai/h2ogpt
```
2进入项目目录

克隆完成后进入仓库根目录，后续按 docs 目录下的平台文档操作。
```
cd h2ogpt
```
3选择安装方式

README 明确：Linux/Windows/MAC 推荐用 Docker 获得完整功能；Linux 脚本也可全功能，Windows 与 MAC 脚本功能少于 Docker。
4按平台文档部署

根据系统打开对应文档：Docker 见 docs/README_DOCKER.md，Linux 见 docs/README_LINUX.md，Windows 见 docs/README_WINDOWS.md，MAC 见 docs/READM
5通用快速上手

任何平台都可用 docs/README_quickstart.md 快速上手；README 正文未给出端口和具体启动命令，请以该文档为准。
6导入文档并对话

启动后上传 PDF、Excel、Word、图片、视频帧、YouTube、音频、代码、文本等自有文档，并选择支持的模型进行私密问答。

如何确认成功

按对应平台文档启动且无报错，再用浏览器打开该文档中给出的访问地址即可开始对话（README 未给出默认端口）。

常见问题

Q：应该选哪种安装方式？

A：README 推荐 Docker，Linux、Windows、MAC 都能获得完整能力；Linux 安装脚本同样具备完整能力，而 Windows 和 MAC 脚本的能力不如 Docker。

Q：没有 GPU 可以运行吗？

A：可以。README 说明除 GPU 外还支持 CPU，可用 HF、LLaMa.cpp 和 GPT4ALL 模型在 CPU 上运行。

Q：支持哪些模型？

A：支持 LLaMa2、Mistral、Falcon、Vicuna、WizardLM 等，并可通过 AutoGPTQ 使用 4-bit/8-bit 量化及 LORA。

Q：文档数据存到哪里？

A：README 强调私密离线数据库，可用 Chroma、Weaviate（持久化）或内存 FAISS，配置与使用细节见 docs/README_LangChain.md。

Q：有商业版本吗？

A：有，企业版 h2oGPTe 可免费试用，入口为 https://h2ogpte.genai.h2o.ai/ 。

注意事项

README 正文只给出安装文档链接，未提供 docker run、pip install 等具体命令，实际部署必须查阅 docs 目录下对应平台的文档
请以官方文档为准，不要臆测端口、路径与参数
该项目主打 100% 私密本地对话，部署时注意不要让文档数据外传
项目许可为 Apache V2 开源协议

核心亮点

支持多种本地模型后端（Ollama、llama.cpp、vLLM 等），灵活切换
内置文档问答（RAG），可处理 PDF、Word、视频等多种格式
强调 100% 私有化，符合 FedRAMP，适合企业数据合规

不足之处

文档和社区尚待完善，新手配置门槛较高
依赖本地硬件资源，对 GPU 要求较高

适用场景

企业内部知识库问答，保护敏感数据不外泄
个人本地 AI 助手，离线处理私人文档和图片
需要合规审计的政府或金融行业 AI 应用

替代项目

PrivateGPT、LocalAI、AnythingLLM

项目介绍

h2ogpt 是对话助手领域的开源项目，由 h2oai 开发，2023 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（11,965）位列前 5%，在对话助手分类的 907 个项目里位列前 3%。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。开源免费，提供在线Demo，但具体。从国内网络环境看，可直接访问。

它主要面向的使用场景是：企业内部知识库问答，保护敏感数据不外泄。同类可对比的替代方案包括 PrivateGPT、LocalAI、AnythingLLM。

上一篇：alfred-chathub

下一篇：cli-llm-mesh