h2o-llmstudio

不用写代码，拖拽配置就能微调大模型

H2O LLM Studio 是一个用于大语言模型（LLM）微调的开源框架和无代码图形界面（GUI）。它解决了开发者微调 LLM 时面临的高技术门槛和复杂流程问题，让用户无需编写代码即可完成数据准备、模型配置、训练和评估。核心能力包括：支持多种主流模型（如 Llama、GPT 等），提供直观的可视化界面管理数据集和训练参数，内置超参数优化、早停、模型检查点等功能，并支持分布式训练和模型导出。项目由 H2O.ai 维护，注重易用性和可复现性，适合从新手到专业研究者的不同用户群体。

开源 free 对话助手

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 5182

维护状态活跃

是否开源是

定价模式 free

项目数据

分类对话助手

开发团队h2oai

所属国家

官网地址https://h2o.ai

GitHubhttps://github.com/h2oai/h2o-llmstudio

定价模式free

价格说明开源框架，Apache-2.0许可，可免费本地部署使用，无在线服务。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai,chatbot,chatgpt,fedramp,fine-tuning,finetuning,generative,generative-ai,gpt,llama,llama2,llm,llm-training

GitHub 星标★ 5182

30天Star增速

HF 下载量

上线时间2023-04-17 00:00:00

最近更新2026-09-22 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数5

使用教程

难度：进阶约 30 分钟部署方式：本地安装 8 步

环境要求

Ubuntu 16.04+ 操作系统
至少一块较新的 NVIDIA GPU，驱动版本 >= 470.57.02
较大模型建议 GPU 显存 24GB 以上
Python 3.10（README 推荐用 uv 管理环境）
Docker 方式需先安装 NVIDIA Container Toolkit

安装与启动步骤

1确认硬件与系统

官方要求 Ubuntu 16.04+ 与至少一块较新 NVIDIA GPU，驱动不低于 470.57.02；跑大模型建议显存 24GB 以上。

2安装 NVIDIA 驱动

裸机跑 Ubuntu 时需自行装驱动和 CUDA，以下命令以 Ubuntu 22.04 为例，可按自己系统调整。

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda-repo-ubuntu2204-12-4-local_12.4.0-550.54.14-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-4-local_12.4.0-550.54.14-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-4-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-4

3准备运行环境

官方推荐用 uv 搭配 Python 3.10 安装，README 未给出具体安装命令，请按官方 Set up 文档操作。
4启动图形界面

在项目目录执行该命令会启动 H2O Wave 服务和应用，随后可打开浏览器访问。
```
make llmstudio
```

5Docker 方式启动

已装 NVIDIA Container Toolkit 时可用官方镜像启动，挂载本地目录并映射 10101 端口。

mkdir -p `pwd`/llmstudio_mnt
chmod 777 `pwd`/llmstudio_mnt
docker run 
    --runtime=nvidia 
    --shm-size=64g 
    --init 
    --rm 
    -it 
    -u `id -u`:`id -g` 
    -p 10101:10101 
    -v `pwd`/llmstudio_mnt:/mount 
    h2oairelease/h2oai-llmstudio-app:latest

6命令行微调模型

用 CLI 指定包含全部实验参数的 yaml 配置文件训练，把路径换成你自己的配置文件。
```
uv run python llm_studio/train.py -Y /your/path/config.yaml
```
7多卡 DDP 训练

以 DDP 模式多卡训练，把数字换成 GPU 数量；默认使用前 k 块 GPU，可用 CUDA_VISIBLE_DEVICES 指定。
```
bash distributed_train.sh 2 -Y /your/path/config.yaml
```
8与模型对话

启动交互式对话，experiment_name 为实验输出目录，UI 微调的模型同样可用。
```
uv run python llm_studio/prompt.py -e my_experiment
```

关键配置

配置项	必填	说明	示例
`config_yaml`	是	CLI 训练所需的实验参数配置文件路径	`/your/path/config.yaml`
`CUDA_VISIBLE_DEVICES`	否	指定训练实际使用的 GPU 编号	`0,1`
`H2O_WAVE_MAX_REQUEST_SIZE`	否	非 uv 环境启动 GUI 时需设置的最大请求体积	`25MB`
`H2O_WAVE_NO_LOG`	否	非 uv 环境启动 GUI 时关闭日志输出	`true`
`H2O_WAVE_PRIVATE_DIR`	否	非 uv 环境启动 GUI 时的私有目录	`/download/@output/download`
`safe_serialization`	否	发布到 Hugging Face 时是否启用安全序列化，默认 True	`True`

如何确认成功

浏览器（推荐 Chrome）打开 http://localhost:10101/ ，能看到 H2O LLM Studio 界面即启动成功。

常见问题

Q：没有 NVIDIA GPU 能用吗？

A：官方要求 Ubuntu 16.04+ 和至少一块较新的 NVIDIA GPU（驱动 >= 470.57.02），大模型建议 24GB 以上显存，纯 CPU 环境未在 README 中说明支持。

Q：用非 uv 环境如何启动 GUI？

A：设置 H2O_WAVE_MAX_REQUEST_SIZE=25MB、H2O_WAVE_NO_LOG=true、H2O_WAVE_PRIVATE_DIR="/download/@output/download" 后执行 wave run llm_studio.app。

Q：Docker 容器怎么管理？

A：可用 docker ps 查看运行中的容器，用 docker kill 停止容器，README 中给出了这两个常用命令。

Q：如何把模型发布到 Hugging Face？

A：使用 uv run python llm_studio/publish_to_hugging_face.py，传入实验目录、设备和 api_key 等参数，未登录时 user_id 和 api_key 可省略。

注意事项

README 未给出 uv 与 Python 3.10 的具体安装命令，需参考官方 Set up 文档。
GUI 默认端口为 10101，浏览器请访问 http://localhost:10101/。
CLI 训练必须自备包含全部实验参数的 yaml 配置文件。
Docker 方式需提前安装 nvidia-container-toolkit。

核心亮点

提供完整的无代码 GUI，降低微调门槛
内置超参数调优和早停机制，提升训练效率
支持多种主流 LLM 架构，兼容性强

不足之处

文档/社区待观察
对大规模分布式训练的支持可能不如原生框架灵活

适用场景

企业快速构建领域专属聊天机器人
研究人员实验不同微调策略
教学演示和初学者学习 LLM 微调

替代项目

Hugging Face Transformers、LlamaIndex、Axolotl

项目介绍

h2o-llmstudio 是模型训练领域的开源项目，由 h2oai 开发，2023 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（5,182）位列前 9%，在模型训练分类的 522 个项目里位列前 10%。

近 41 天，它的 GitHub 星标从 5,160 增加到 5,182，净增 22。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-22。Apache-2.0许可，可免费本地部署使用，无在线服务。

它主要面向的使用场景是：企业快速构建领域专属聊天机器人。同类可对比的替代方案包括 Hugging Face Transformers、LlamaIndex、Axolotl。

上一篇：petals

下一篇：EasyLM