halo

一套框架搞定 LLM 与多模态的微调和强化学习训练

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 模型训练 🍴 复刻 45 🐛 待处理 24 👀 关注 3
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 851
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费，基于Apache等开源许可证发布

项目预览

halo 项目界面预览图
图片来源：项目官网

项目数据

分类模型训练
开发团队whitecircle
官网地址https://whitecircle.com/halo
GitHubhttps://github.com/whitecircle/halo
定价模式🏷️完全免费
价格说明开源免费，基于Apache等开源许可证发布
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型agent,async-rl,distributed-training,fine-tuning,grpo,large-language-models,llm,lora,model-parallelism,moe,multimodal,peft,post-training,pytorch,qlora,quantization,reinforcement-learning,rlhf,transformers,vllm
GitHub 星标★ 851
上线时间2026-08-26 00:00:00
代码更新2026-11-08
仓库体积29.6 MB
本站数据更新2026-11-08
维护状态活跃
收录时间2026-09-25
浏览次数4

项目介绍

Halo 是由 White Circle 开源的大语言与多模态模型训练框架，用 Python 编写。它面向从微调到强化学习后训练的完整流程，核心能力包括分布式训练、模型并行、LoRA 等参数高效微调，以及 GRPO、异步强化学习等后训练算法，还支持 MoE 与多模态模型。相比只覆盖单一环节的脚本集合，Halo 试图把数据、并行策略、训练循环和 RL 采样统一到一套框架里，减少团队在自研训练管线上的重复投入。对需要训练或微调 LLM、多模态模型的团队，它提供可复用的分布式与 RL 组件，适合作为内部训练平台的底座或参考实现。项目目前星标约 713，属于早期阶段，接口和文档可能仍在快速演进。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-25 · 当前星标 ★ 851

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：高级 约 50 分钟 部署方式：本地安装 4 步

环境要求

  • NVIDIA H100/B200 级显卡
  • CUDA 12.x
  • PyTorch 2.5+

安装与启动步骤

  1. 1克隆

    前沿实验室级的训练框架。

    git clone https://github.com/whitecircle/halo.git
cd halo

  2. 2选构建目标

    按卡型选 Blackwell 或 Hopper。

    make build-blackwell
# 或 make build-hopper

  3. 3准备数据

    SFT 数据整理成对话格式。

    head -1 data/sft.jsonl

  4. 4起训练

    脚本参数按卡数与 batch 调。

    python scripts/training/sft.py --config configs/sft.yaml

如何确认成功

训练日志里 loss 稳定下降，checkpoint 能正常保存与加载。

注意事项

  • 面向大卡集群，单卡消费级显卡跑不动。
  • 构建目标选错会在运行时报非法指令。
  • 多机训练要配 NCCL 与网络。

核心亮点

  • 覆盖 LoRA 微调、GRPO、异步 RL 到分布式训练，后训练链路较完整
  • 内置模型并行与 MoE 支持，面向大模型训练而非玩具示例
  • 同时支持语言与多模态模型，减少多套训练栈的维护成本

不足之处

  • 早期项目，文档与示例可能不够完善，上手需要读源码
  • 社区规模小，遇到问题可参考的案例和讨论有限

适用场景

  • 团队搭建内部 LLM 微调与 RL 后训练流水线
  • 研究 GRPO、异步强化学习等后训练算法的实验平台
  • 需要模型并行与 MoE 的多模态大模型训练

替代项目

verl、OpenRLHF、LLaMA-Factory

上一篇：mixture_of_recursions

下一篇：nanotron

同类项目推荐

Time-R1 开源

用三阶段强化学习，让大模型真正理解时间、预测未来。

Time-R1: Framework and resources for endowing LLMs with comprehensive temporal reaso···

★ 72 2026-08-09
Chattiori-Model-Merger 开源

按比例混合扩散模型，快速生成自定义风格模型

Merges latent diffusion models at a user-defined ratio

★ 53 2026-08-09
hands-on-train-and-deploy-ml 开源

10步搞定ML模型训练到API部署，以加密货币预测为例

Train and Deploy an ML REST API to predict crypto prices, in 10 steps

★ 891 2026-08-09
q-diffusion 开源

把扩散模型压到低比特，省内存还提速，生成质量不掉线。

[ICCV 2023] Q-Diffusion: Quantizing Diffusion Models.

★ 381 2026-08-09
redco 开源

一键自动化分布式训练推理，轻松搞定联邦学习与隐私保护

NAACL '24 (Best Demo Paper RunnerUp) / MlSys @ NeurIPS '23 - RedCoast: A Lightweight···

★ 69 2026-08-09
flame 开源

极简框架，快速训练线性注意力大模型

A minimal training framework for scaling FLA models

★ 426 2026-08-09
Merge-Stable-Diffusion-models-wi··· 开源

不训练，无损合并多个Stable Diffusion模型，统一风格与能力。

Adaptation of the merging method described in the paper - Git Re-Basin: Merging Mode···

★ 147 2026-08-09
LLM-SR 开源

用大模型从数据中自动发现科学方程，告别手动推导。

[ICLR 2025 Oral] This is the official repo for the paper "LLM-SR" on Scientific Equa···

★ 283 2026-08-09
SimpleTuner 开源

一条命令微调扩散模型，图像视频音频通吃

A general fine-tuning kit geared toward image/video/audio diffusion models.

★ 2954 2026-08-09