h2o-llmstudio

不用写代码，拖拽配置就能微调大模型

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署对话助手 🍴 复刻 555 🐛 待处理 32 👀 关注 75

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 5194

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源框架，Apache-2.0许可，可免费本地部署使用，无在线服务。

项目预览

h2o-llmstudio 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类对话助手

开发团队h2oai

官网地址https://h2o.ai

GitHubhttps://github.com/h2oai/h2o-llmstudio

定价模式🏷️完全免费

价格说明开源框架，Apache-2.0许可，可免费本地部署使用，无在线服务。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai,chatbot,chatgpt,fedramp,fine-tuning,finetuning,generative,generative-ai,gpt,llama,llama2,llm,llm-training

GitHub 星标★ 5194

上线时间2023-04-17 00:00:00

代码更新2026-11-08

仓库体积57.4 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数7

项目介绍

H2O LLM Studio 是一个用于大语言模型（LLM）微调的开源框架和无代码图形界面（GUI）。它解决了开发者微调 LLM 时面临的高技术门槛和复杂流程问题，让用户无需编写代码即可完成数据准备、模型配置、训练和评估。核心能力包括：支持多种主流模型（如 Llama、GPT 等），提供直观的可视化界面管理数据集和训练参数，内置超参数优化、早停、模型检查点等功能，并支持分布式训练和模型导出。项目由 H2O.ai 维护，注重易用性和可复现性，适合从新手到专业研究者的不同用户群体。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5194

技术标签

ai chatbot chatgpt fine-tuning finetuning

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：进阶约 30 分钟部署方式：本地安装 8 步

环境要求

Ubuntu 16.04+ 操作系统
至少一块较新的 NVIDIA GPU，驱动版本 >= 470.57.02
较大模型建议 GPU 显存 24GB 以上
Python 3.10（README 推荐用 uv 管理环境）
Docker 方式需先安装 NVIDIA Container Toolkit

安装与启动步骤

1确认硬件与系统

官方要求 Ubuntu 16.04+ 与至少一块较新 NVIDIA GPU，驱动不低于 470.57.02；跑大模型建议显存 24GB 以上。

2安装 NVIDIA 驱动

裸机跑 Ubuntu 时需自行装驱动和 CUDA，以下命令以 Ubuntu 22.04 为例，可按自己系统调整。

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda-repo-ubuntu2204-12-4-local_12.4.0-550.54.14-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-4-local_12.4.0-550.54.14-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-4-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-4

3准备运行环境

官方推荐用 uv 搭配 Python 3.10 安装，README 未给出具体安装命令，请按官方 Set up 文档操作。
4启动图形界面

在项目目录执行该命令会启动 H2O Wave 服务和应用，随后可打开浏览器访问。
```
make llmstudio
```

5Docker 方式启动

已装 NVIDIA Container Toolkit 时可用官方镜像启动，挂载本地目录并映射 10101 端口。

mkdir -p `pwd`/llmstudio_mnt
chmod 777 `pwd`/llmstudio_mnt
docker run \
    --runtime=nvidia \
    --shm-size=64g \
    --init \
    --rm \
    -it \
    -u `id -u`:`id -g` \
    -p 10101:10101 \
    -v `pwd`/llmstudio_mnt:/mount \
    h2oairelease/h2oai-llmstudio-app:latest

6命令行微调模型

用 CLI 指定包含全部实验参数的 yaml 配置文件训练，把路径换成你自己的配置文件。
```
uv run python llm_studio/train.py -Y /your/path/config.yaml
```
7多卡 DDP 训练

以 DDP 模式多卡训练，把数字换成 GPU 数量；默认使用前 k 块 GPU，可用 CUDA_VISIBLE_DEVICES 指定。
```
bash distributed_train.sh 2 -Y /your/path/config.yaml
```
8与模型对话

启动交互式对话，experiment_name 为实验输出目录，UI 微调的模型同样可用。
```
uv run python llm_studio/prompt.py -e my_experiment
```

关键配置

配置项	必填	说明	示例
`config_yaml`	是	CLI 训练所需的实验参数配置文件路径	`/your/path/config.yaml`
`CUDA_VISIBLE_DEVICES`	否	指定训练实际使用的 GPU 编号	`0,1`
`H2O_WAVE_MAX_REQUEST_SIZE`	否	非 uv 环境启动 GUI 时需设置的最大请求体积	`25MB`
`H2O_WAVE_NO_LOG`	否	非 uv 环境启动 GUI 时关闭日志输出	`true`
`H2O_WAVE_PRIVATE_DIR`	否	非 uv 环境启动 GUI 时的私有目录	`/download/@output/download`
`safe_serialization`	否	发布到 Hugging Face 时是否启用安全序列化，默认 True	`True`