tunix

用 JAX 搭积木做 LLM 后训练,算法随便换

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 382 🐛 待处理 516 👀 关注 22
GitHub ↗
GitHub 星标 ★ 2501
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费

项目预览

tunix 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队google
定价模式🏷️完全免费
价格说明开源免费
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
GitHub 星标★ 2501
上线时间2025-04-02 00:00:00
代码更新2026-11-03
仓库体积277.6 MB
本站数据更新2026-11-03
维护状态活跃
收录时间2026-09-16
浏览次数1

项目介绍

Tunix 是 Google 开源的一个轻量级大模型后训练(post-training)库,基于 JAX 生态构建,专注于在模型预训练完成后做进一步优化。它解决的核心问题是:现有后训练流程往往依赖庞大且耦合的框架,难以灵活替换算法组件。Tunix 把监督微调(SFT)、奖励建模、强化学习(如 PPO、GRPO 等)拆成模块化组件,让研究者可以像搭积木一样组合不同训练阶段。库内提供可复用的训练循环、数据管道和常见 RL 算法实现,并与 JAX/Flax 的自动微分和并行能力打通,方便在 TPU/GPU 上做分布式训练。整体定位偏研究友好,代码结构清晰,适合快速验证新的后训练策略,而不是开箱即用的产品级方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 2501

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:高级 约 30 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 环境(具体版本以官方文档为准)
  • JAX/Flax NNX 生态依赖,含 Optax、Orbax 等
  • 可选 TPU 或 GPU 计算资源,用于分布式训练
  • 若需 rollout 推理,可配合 vLLM 或 SGLang-JAX
  • Docker(仅镜像构建路径需要)

安装与启动步骤

  1. 1克隆仓库

    从 GitHub 获取 Tunix 源码,后续安装与示例都基于该目录。注意保持网络可访问 GitHub。

    git clone https://github.com/google/tunix.git && cd tunix
  2. 2查看安装文档

    README 未给出具体安装命令,需先访问官方文档 quickstart 的 Installation 章节,按最新说明操作。

  3. 3本地安装 TPU 依赖

    在 TPU VM 或开发机上运行脚本,按 requirements 文件安装 vLLM 相关依赖,与 Docker 构建路径二选一。

    bash scripts/install_tunix_vllm_requirement.sh
  4. 4Docker 构建镜像

    使用仓库根目录 Dockerfile 构建镜像,内部会从 requirements.txt 和 special_requirements.txt 安装固定依赖。

    docker build -t tunix .

如何确认成功

按官方文档 Quick Start 运行一个训练示例,无导入或依赖报错即表示安装成功。

常见问题

Q:Tunix 如何安装?

A:README 未给出具体 pip 命令,需访问 https://tunix.readthedocs.io/en/latest/quickstart.html#installation 查看官方安装步骤。

Q:Docker 和安装脚本可以同时用吗?

A:不可以,README 明确说明这是两个独立入口;构建 Docker 镜像时无需在容器内再运行 install_tunix_vllm_requirement.sh。

Q:支持哪些硬件?

A:README 声明在 TPU 上有 SOTA 训练性能,也支持 GPU;具体依赖与并行配置以官方文档为准。

Q:可以做哪些训练任务?

A:支持监督微调(SFT)、强化学习(如 PPO、GRPO 等)、Agentic RL 以及奖励建模等后训练环节。

注意事项

  • README 未给出 pip 安装命令,实际安装请以官方文档 quickstart 的 Installation 章节为准。
  • Docker 构建与本地脚本是两种独立安装路径,避免重复安装依赖。
  • 项目处于活跃开发中(V2 Release),接口与依赖可能变化。

核心亮点

  • 模块化设计,SFT、奖励模型、RL 各阶段可独立替换组合
  • 基于 JAX/Flax,天然支持 TPU/GPU 分布式训练与自动微分
  • 由 Google 团队维护,代码结构清晰,适合研究新后训练算法

不足之处

  • 偏研究定位,缺少端到端产品化封装,上手门槛较高
  • 生态和文档相比 PyTorch 系后训练库仍较新,社区案例有限

适用场景

  • 研究团队快速验证新的强化学习后训练算法
  • 在 TPU 集群上对开源大模型做 SFT 与 RLHF 实验
  • 需要灵活替换奖励模型或 RL 组件的定制化训练流程

替代项目

trl、verl、OpenRLHF

上一篇:slime

下一篇:create-llm

同类项目推荐

nntrainer 开源

让手机家电自己训练模型,数据不出设备

NNtrainer is Software Framework for Training and Inferencing Neural Network Models o···

★ 215 2026-10-17
controlnet_stable_tensorrt 开源

用TensorRT加速Stable Diffusion+ControlNet,让可控生成更快更省显存。

stable diffusion, controlnet, tensorrt, accelerate

★ 70 2026-08-09
trainer 开源

在 Kubernetes 上轻松跑起分布式模型训练和微调

Distributed AI Model Training and LLM Fine-Tuning on Kubernetes

★ 2272 2026-08-09
awesome-on-policy-distillation 开源

一页看全 LLM 在线蒸馏论文与工具,省去到处翻找

A curated collection of papers, technical reports, frameworks, and tools for on-poli···

★ 907 2026-09-15
OpenPipe 开源

把贵提示词变成便宜微调模型,省下大笔API费用

Turn expensive prompts into cheap fine-tuned models

★ 2836 2026-08-09
UniDiffusion 开源

一站式训练扩散模型,切换多种个性化方法无需改代码

A Diffusion training toolbox based on diffusers and existing SOTA methods, including···

★ 84 2026-08-09
AutoTimes 开源

用大模型直接做时间序列预测,无需改架构

Official implementation for "AutoTimes: Autoregressive Time Series Forecasters via L···

★ 269 2026-08-09
minAlphaFold2 开源

用 PyTorch 极简复现 AlphaFold2,读懂蛋白质结构预测

A minimal PyTorch re-implementation of AlphaFold2's model & training

★ 641 2026-10-12
focal-frequency-loss 开源

频域聚焦损失,让生成图像细节更清晰

[ICCV 2021] Focal Frequency Loss for Image Reconstruction and Synthesis

★ 715 2026-08-09