项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 589
使用教程
环境要求
- GPU 多卡
- Redis
- CUDA 工具链
安装与启动步骤
-
1建虚拟环境
官方推荐独立环境管理器，命令都要带前缀。
-
2装加速与算子库
注意力加速与分组矩阵乘要从源码编。
uv pip install flash-attn --no-build-isolation -
3备缓存服务
训练流程依赖一个内存缓存服务。
apt install -y redis-server -
4跑示例训练
按仓库给的配置先小规模跑通。
-
5再扩到多机
多机要配通信后端，单机验通再加机器。
如何确认成功
单机能跑通一轮完整训练且损失正常下降，扩到多机后吞吐线性增长
注意事项
- 它是训练框架，不是推理工具。
- 从源码编算子库是最耗时的一步。
- 缓存服务不是可选项，缺了直接起不来。
- 多机扩展受网络带宽限制，不是加机器就一定快。
核心亮点
- 把 SFT、RLVR、评测统一到同一框架，减少多套脚本切换成本
- 模块化配置设计，改实验主要改配置而非散落代码，利于复现
- 覆盖训练到评测闭环，适合快速对比不同方案
不足之处
- 早期项目，文档与示例丰富度有限，上手需读源码
- RLVR 等较新训练范式生态和社区实践还待积累
适用场景
- 研究者快速对比 SFT 与 RLVR 微调效果
- 小团队搭建可复现的大模型训练流水线
- 需要统一管理训练配置与评测流程的实验项目
替代项目
LLaMA-Factory、trl、verl
上一篇：gigaevo-core
下一篇：ktransformers
同类项目推荐
Visual-ERM
开源
训练视觉奖励模型，让AI输出更符合人类视觉偏好
[NeurIPS 2026] Official Implementation of "Visual-ERM: Reward Modeling for Visual Eq···
ReaLHF
开源
重新分配参数，让 RLHF 训练更快更省资源
Super-Efficient RLHF Training of LLMs with Parameter Reallocation
oumi
开源
一条命令搞定 LLM 微调、评估与部署，让模型落地更简单。
Easily fine-tune (SFT/RL), evaluate, and deploy Qwen, Gemma, or any open agentic LLM···
GuidedQuant
开源
用端到端损失引导量化，让大模型压缩后不掉点
Official PyTorch implementation of "GuidedQuant: Large Language Model Quantization v···
Automodel
开源
Hugging Face 模型直接多卡分布式微调，不改代码。
Pytorch Distributed native training library for LLMs/VLMs with OOTB Hugging Face sup···
MoA
开源
自动混合稀疏注意力，压缩 LLM 省内存提速
[CoLM'25] The official implementation of the paper
SLED
开源
不训练不微调，用模型自己纠正自己，让回答更靠谱
SLED: Self Logits Evolution Decoding for Improving Factuality in Large Language Mode···
onebitllms
开源
小显存也能训练1.58bit三值大模型
Lightweight toolkit package to train and fine-tune 1.58bit Language models
chronos-forecasting
开源
像用语言模型一样，零样本预测任意时间序列
Chronos: Pretrained Models for Time Series Forecasting