让扩散模型从小规模到大规模训练，超参数无需重调，省时省力。
Scaling-Diffusion-Transformers-muP 是 NeurIPS 2025 论文的官方实现，旨在解决扩散 Transformer（DiT）在规模扩展时超参数难以迁移的问题。通过引入最大更新参数化（μP），使得模型在不同规模下（从百万到十亿参数）能够保持最优超参数不变，从而避免大规模训练时昂贵的超参数搜索。项目核心能力包括：提供 μP 化的 DiT 模型实现、支持与标准 DiT 的对比实验、以及训练脚本和配置。主要解决大规模扩散模型训练中调参成本高、训练不稳定的痛点，让研究者可以更高效地将小规模实验的结论直接迁移到大规模模型，加速扩散模型的迭代。
mup (Microsoft)、Diffusion Transformers (DiT)、OpenAI DiT
Scaling-Diffusion-Transformers-muP 是模型训练领域的开源项目，由 ML-GSAI 开发，2025 年首次发布。
它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 100。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-07-12。MIT许可证，完全免费，可自行部署使用。
它主要面向的使用场景是：扩散模型研究者需要快速验证不同规模下的训练效果。同类可对比的替代方案包括 mup (Microsoft)、Diffusion Transformers (DiT)、OpenAI DiT。
上一篇：simple-diffusion
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
