项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 11926
技术标签
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- 已安装 git,用于克隆 GitHub 仓库
- Docker(README 推荐,Linux/Windows/MAC 可获得完整功能)
- 操作系统为 Linux、Windows 10/11 或 macOS
- 可选 GPU;无 GPU 时可用 CPU 运行 HF、LLaMa.cpp、GPT4ALL 模型
安装与启动步骤
-
1克隆项目仓库
从 GitHub 拉取 h2oGPT 源码,README 未提供其他安装包或 pip 安装方式,因此以克隆仓库为起点。
git clone https://github.com/h2oai/h2ogpt -
2进入项目目录
克隆完成后进入仓库根目录,后续按 docs 目录下的平台文档操作。
cd h2ogpt -
3选择安装方式
README 明确:Linux/Windows/MAC 推荐用 Docker 获得完整功能;Linux 脚本也可全功能,Windows 与 MAC 脚本功能少于 Docker。
-
4按平台文档部署
根据系统打开对应文档:Docker 见 docs/README_DOCKER.md,Linux 见 docs/README_LINUX.md,Windows 见 docs/README_WINDOWS.md,MAC 见 docs/READM
-
5通用快速上手
任何平台都可用 docs/README_quickstart.md 快速上手;README 正文未给出端口和具体启动命令,请以该文档为准。
-
6导入文档并对话
启动后上传 PDF、Excel、Word、图片、视频帧、YouTube、音频、代码、文本等自有文档,并选择支持的模型进行私密问答。
如何确认成功
按对应平台文档启动且无报错,再用浏览器打开该文档中给出的访问地址即可开始对话(README 未给出默认端口)。
常见问题
Q:应该选哪种安装方式?
A:README 推荐 Docker,Linux、Windows、MAC 都能获得完整能力;Linux 安装脚本同样具备完整能力,而 Windows 和 MAC 脚本的能力不如 Docker。
Q:没有 GPU 可以运行吗?
A:可以。README 说明除 GPU 外还支持 CPU,可用 HF、LLaMa.cpp 和 GPT4ALL 模型在 CPU 上运行。
Q:支持哪些模型?
A:支持 LLaMa2、Mistral、Falcon、Vicuna、WizardLM 等,并可通过 AutoGPTQ 使用 4-bit/8-bit 量化及 LORA。
Q:文档数据存到哪里?
A:README 强调私密离线数据库,可用 Chroma、Weaviate(持久化)或内存 FAISS,配置与使用细节见 docs/README_LangChain.md。
Q:有商业版本吗?
A:有,企业版 h2oGPTe 可免费试用,入口为 https://h2ogpte.genai.h2o.ai/ 。
注意事项
- README 正文只给出安装文档链接,未提供 docker run、pip install 等具体命令,实际部署必须查阅 docs 目录下对应平台的文档
- 请以官方文档为准,不要臆测端口、路径与参数
- 该项目主打 100% 私密本地对话,部署时注意不要让文档数据外传
- 项目许可为 Apache V2 开源协议
核心亮点
- 支持多种本地模型后端(Ollama、llama.cpp、vLLM 等),灵活切换
- 内置文档问答(RAG),可处理 PDF、Word、视频等多种格式
- 强调 100% 私有化,符合 FedRAMP,适合企业数据合规
不足之处
- 文档和社区尚待完善,新手配置门槛较高
- 依赖本地硬件资源,对 GPU 要求较高
适用场景
- 企业内部知识库问答,保护敏感数据不外泄
- 个人本地 AI 助手,离线处理私人文档和图片
- 需要合规审计的政府或金融行业 AI 应用
替代项目
PrivateGPT、LocalAI、AnythingLLM
上一篇:alfred-chathub
下一篇:cli-llm-mesh
同类项目推荐
chatgpt-web
开源
快速搭建带企业认证的专属 ChatGPT 网页,支持 SSO 和云同步
A third-party ChatGPT Web UI page built with Express and Vue3, through the official ···
awesome-assistants
开源
逛精选 AI 助手库,Telegram 上直接试玩
A curated list of awesome AI assistants. Example Telegram bot with all these assista···
Librechat-Mobile
开源
手机上的 LibreChat,原生跨平台,多模型畅聊
The full LibreChat experience, rebuilt natively for Android and iOS, and it works wi···
kkclaw
开源
桌面养只AI龙虾,陪你聊天还会卖萌
一个可爱的桌面龙虾AI助手 - Desktop lobster pet with OpenClaw AI, Edge TTS voice, and···
mini-claw
开源
在 Telegram 里免费畅聊 Claude/ChatGPT,支持文件与 Shell
Telegram bot for persistent Claude/ChatGPT conversations using Pi agent — zero-cost···
meena-chatbot
开源
复现 Google Meena,用 Transformer 打造高情商聊天机器人
Google's Meena transformer chatbot implementation
bots
开源
找机器人开发资源,一页全搞定
:zap: Tools for building bots
discord-ollama
开源
把本地 Ollama 大模型接进 Discord,频道里直接开聊
Discord Bot that utilizes Ollama to interact with any Large Language Models to talk ···
csml-engine
开源
用简洁语言快速构建聊天机器人,告别复杂逻辑。
CSML is an easy-to-use chatbot programming language and framework.
