halo

一套框架搞定 LLM 与多模态的微调和强化学习训练

Halo 是由 White Circle 开源的大语言与多模态模型训练框架,用 Python 编写。它面向从微调到强化学习后训练的完整流程,核心能力包括分布式训练、模型并行、LoRA 等参数高效微调,以及 GRPO、异步强化学习等后训练算法,还支持 MoE 与多模态模型。相比只覆盖单一环节的脚本集合,Halo 试图把数据、并行策略、训练循环和 RL 采样统一到一套框架里,减少团队在自研训练管线上的重复投入。对需要训练或微调 LLM、多模态模型的团队,它提供可复用的分布式与 RL 组件,适合作为内部训练平台的底座或参考实现。项目目前星标约 713,属于早期阶段,接口和文档可能仍在快速演进。

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 713
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类模型训练
开发团队whitecircle
所属国家
定价模式free
价格说明开源免费,基于Apache等开源许可证发布
访问状态
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型agent,async-rl,distributed-training,fine-tuning,grpo,large-language-models,llm,lora,model-parallelism,moe,multimodal,peft,post-training,pytorch,qlora,quantization,reinforcement-learning,rlhf,transformers,vllm
GitHub 星标★ 713
30天Star增速
HF 下载量
上线时间2026-08-26 00:00:00
最近更新2026-09-24 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-25
浏览次数0

使用教程

核心亮点

  • 覆盖 LoRA 微调、GRPO、异步 RL 到分布式训练,后训练链路较完整
  • 内置模型并行与 MoE 支持,面向大模型训练而非玩具示例
  • 同时支持语言与多模态模型,减少多套训练栈的维护成本

不足之处

  • 早期项目,文档与示例可能不够完善,上手需要读源码
  • 社区规模小,遇到问题可参考的案例和讨论有限

适用场景

  • 团队搭建内部 LLM 微调与 RL 后训练流水线
  • 研究 GRPO、异步强化学习等后训练算法的实验平台
  • 需要模型并行与 MoE 的多模态大模型训练

替代项目

verl、OpenRLHF、LLaMA-Factory

项目介绍

halo 是模型训练领域的开源项目,由 whitecircle 开发,是 2026 年新上线的项目。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 713。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-24。开源免费,基于Apache等开源许可证发布。

它主要面向的使用场景是:团队搭建内部LLM微调与RL后训练流水线。同类可对比的替代方案包括 verl、OpenRLHF、LLaMA-Factory。

上一篇:mixture_of_recursions

下一篇:nanotron

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13