Scaling-Diffusion-Transformers-muP
让扩散模型从小规模到大规模训练，超参数无需重调，省时省力。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 101
核心亮点
- 基于 NeurIPS 2025 论文，方法有理论支撑，权威性强
- 官方实现，代码质量有保障，可直接复现论文结果
- 提供 μP 与标准参数学的对比，便于用户理解效果差异
不足之处
- 项目处于早期阶段，文档和社区支持尚待完善
- 仅支持 PyTorch，且依赖特定库（如 mup），上手有一定门槛
适用场景
- 扩散模型研究者需要快速验证不同规模下的训练效果
- 工业界训练大规模图像生成模型时希望节省调参成本
- 学术实验需要将小规模超参数配置迁移到大规模场景
替代项目
mup (Microsoft)、Diffusion Transformers (DiT)、OpenAI DiT
上一篇：simple-diffusion
同类项目推荐
Sklearn-genetic-opt
开源
用遗传算法自动调参，告别网格搜索的低效
Hyperparameter optimization and feature selection for scikit-learn using evolutionar···
Torch-Pruning
开源
一键剪枝任意 PyTorch 模型，自动处理复杂依赖，压缩提速不降准。
[CVPR 2023] DepGraph: Towards Any Structural Pruning; LLMs, Vision Foundation Models···
SPO
开源
分步优化扩散模型，让AI生图更懂审美
[CVPR 2025] Aesthetic Post-Training Diffusion Models from Generic Preferences with S···
catalyst
开源
让深度学习实验跑得更快、更规范，专注模型创新
Accelerated deep learning R&D
Fast-LLM
开源
让 LLM 训练跑满 GPU，少等快出结果
Accelerating your LLM training to full speed! Made with ❤️ by ServiceNow Research
LLMs-from-scratch
开源
手把手从零造出 ChatGPT，原理代码一次搞懂
Implement a ChatGPT-like LLM in PyTorch from scratch, step by step
PRIME
开源
让大模型学会深度推理，强化学习训练一步到位
Scalable RL solution for advanced reasoning of language models
TinyEngram
开源
给大模型装上长期记忆，让对话和生成更连贯
Research of DeepSeek Engram Architecture based on Qwen-3 and Stable Diffusion series···
xllm
开源
轻量预训练骨架，改几行就能跑起训练实验
Light-weight infrastructure for express LLM pre-training