h2ogpt

本地私有部署,让 GPT 安全处理你的文档和多媒体

开源 🏷️定价信息待确认 ✅ 目前可打开 对话助手 🍴 复刻 1294 🐛 待处理 328 👀 关注 18 ⚠️ 作者已归档(停止维护)
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 11926
维护状态 低维护
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

h2ogpt 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队h2oai
官网地址http://h2o.ai
定价模式🏷️定价信息待确认
价格说明开源免费,提供在线Demo,但具体定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai,chatgpt,embeddings,fedramp,generative,gpt,gpt4all,llama2,llm,mixtral,pdf,private,privategpt,vectorstore
GitHub 星标★ 11926
上线时间2023-03-24 00:00:00
代码更新2025-10-09
仓库体积53.4 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数6

项目介绍

h2oGPT 是一个由 H2O.ai 开发的私有化大语言模型聊天助手,旨在让用户完全掌控自己的数据,实现 100% 私密的本地 AI 对话。它解决了企业或个人在使用云端 GPT 时面临的数据隐私泄露风险,支持离线运行,并集成了文档问答、图像和视频理解等多媒体处理能力。核心功能包括:连接多种本地模型(如 Llama 2、Mixtral、Ollama、llama.cpp 等),提供向量数据库(如 Chroma、Weaviate)进行文档检索增强生成(RAG),支持 PDF、Word、文本等多格式文档的问答,以及多用户并发、流式输出、UI 界面等。h2oGPT 强调企业级安全,符合 FedRAMP 标准,适合需要严格数据合规的场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 11926

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:进阶 约 30 分钟 部署方式:Docker 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 git,用于克隆 GitHub 仓库
  • Docker(README 推荐,Linux/Windows/MAC 可获得完整功能)
  • 操作系统为 Linux、Windows 10/11 或 macOS
  • 可选 GPU;无 GPU 时可用 CPU 运行 HF、LLaMa.cpp、GPT4ALL 模型

安装与启动步骤

  1. 1克隆项目仓库

    从 GitHub 拉取 h2oGPT 源码,README 未提供其他安装包或 pip 安装方式,因此以克隆仓库为起点。

    git clone https://github.com/h2oai/h2ogpt
  2. 2进入项目目录

    克隆完成后进入仓库根目录,后续按 docs 目录下的平台文档操作。

    cd h2ogpt
  3. 3选择安装方式

    README 明确:Linux/Windows/MAC 推荐用 Docker 获得完整功能;Linux 脚本也可全功能,Windows 与 MAC 脚本功能少于 Docker。

  4. 4按平台文档部署

    根据系统打开对应文档:Docker 见 docs/README_DOCKER.md,Linux 见 docs/README_LINUX.md,Windows 见 docs/README_WINDOWS.md,MAC 见 docs/READM

  5. 5通用快速上手

    任何平台都可用 docs/README_quickstart.md 快速上手;README 正文未给出端口和具体启动命令,请以该文档为准。

  6. 6导入文档并对话

    启动后上传 PDF、Excel、Word、图片、视频帧、YouTube、音频、代码、文本等自有文档,并选择支持的模型进行私密问答。

如何确认成功

按对应平台文档启动且无报错,再用浏览器打开该文档中给出的访问地址即可开始对话(README 未给出默认端口)。

常见问题

Q:应该选哪种安装方式?

A:README 推荐 Docker,Linux、Windows、MAC 都能获得完整能力;Linux 安装脚本同样具备完整能力,而 Windows 和 MAC 脚本的能力不如 Docker。

Q:没有 GPU 可以运行吗?

A:可以。README 说明除 GPU 外还支持 CPU,可用 HF、LLaMa.cpp 和 GPT4ALL 模型在 CPU 上运行。

Q:支持哪些模型?

A:支持 LLaMa2、Mistral、Falcon、Vicuna、WizardLM 等,并可通过 AutoGPTQ 使用 4-bit/8-bit 量化及 LORA。

Q:文档数据存到哪里?

A:README 强调私密离线数据库,可用 Chroma、Weaviate(持久化)或内存 FAISS,配置与使用细节见 docs/README_LangChain.md。

Q:有商业版本吗?

A:有,企业版 h2oGPTe 可免费试用,入口为 https://h2ogpte.genai.h2o.ai/ 。

注意事项

  • README 正文只给出安装文档链接,未提供 docker run、pip install 等具体命令,实际部署必须查阅 docs 目录下对应平台的文档
  • 请以官方文档为准,不要臆测端口、路径与参数
  • 该项目主打 100% 私密本地对话,部署时注意不要让文档数据外传
  • 项目许可为 Apache V2 开源协议

核心亮点

  • 支持多种本地模型后端(Ollama、llama.cpp、vLLM 等),灵活切换
  • 内置文档问答(RAG),可处理 PDF、Word、视频等多种格式
  • 强调 100% 私有化,符合 FedRAMP,适合企业数据合规

不足之处

  • 文档和社区尚待完善,新手配置门槛较高
  • 依赖本地硬件资源,对 GPU 要求较高

适用场景

  • 企业内部知识库问答,保护敏感数据不外泄
  • 个人本地 AI 助手,离线处理私人文档和图片
  • 需要合规审计的政府或金融行业 AI 应用

替代项目

PrivateGPT、LocalAI、AnythingLLM

上一篇:alfred-chathub

下一篇:cli-llm-mesh

同类项目推荐

chatgpt-web 开源

快速搭建带企业认证的专属 ChatGPT 网页,支持 SSO 和云同步

A third-party ChatGPT Web UI page built with Express and Vue3, through the official ···

★ 1869 2026-08-09
awesome-assistants 开源

逛精选 AI 助手库,Telegram 上直接试玩

A curated list of awesome AI assistants. Example Telegram bot with all these assista···

★ 1258 2026-08-09
Librechat-Mobile 开源

手机上的 LibreChat,原生跨平台,多模型畅聊

The full LibreChat experience, rebuilt natively for Android and iOS, and it works wi···

★ 149 2026-08-09
kkclaw 开源

桌面养只AI龙虾,陪你聊天还会卖萌

一个可爱的桌面龙虾AI助手 - Desktop lobster pet with OpenClaw AI, Edge TTS voice, and···

★ 175 2026-08-09
mini-claw 开源

在 Telegram 里免费畅聊 Claude/ChatGPT,支持文件与 Shell

Telegram bot for persistent Claude/ChatGPT conversations using Pi agent — zero-cost···

★ 94 2026-08-09
meena-chatbot 开源

复现 Google Meena,用 Transformer 打造高情商聊天机器人

Google's Meena transformer chatbot implementation

★ 105 2026-08-09
bots 开源

找机器人开发资源,一页全搞定

:zap: Tools for building bots

★ 1577 2026-08-09
discord-ollama 开源

把本地 Ollama 大模型接进 Discord,频道里直接开聊

Discord Bot that utilizes Ollama to interact with any Large Language Models to talk ···

★ 196 2026-09-15
csml-engine 开源

用简洁语言快速构建聊天机器人,告别复杂逻辑。

CSML is an easy-to-use chatbot programming language and framework.

★ 718 2026-08-09