一键优化扩散模型，推理提速3倍，显存减半
diffusers-torchao 是一个专注于扩散模型优化的端到端配方库，由 Hugging Face 和 PyTorch 团队联合维护。它解决的是扩散模型（如 Stable Diffusion、Flux）在推理和训练中显存占用高、速度慢的问题，通过结合 torchao（PyTorch 的架构优化与量化工具）和 diffusers（扩散模型生态库），提供一系列可复现的优化方案。核心能力包括：支持 FP8 量化训练，显著降低训练显存和计算开销；利用 torch.compile 加速推理，并针对不同 GPU 架构（如 Ada、Hopper）自动选择最优配置；提供多种量化策略（如 int8、int4）和架构优化（如 attention 优化），用户只需简单配置即可获得 2-3 倍推理加速和显存减半。项目以配方（recipe）形式组织，每个配方包含详细代码和基准测试结果，适合生产环境部署和学术研究。
AITemplate、TensorRT、OpenVINO
diffusers-torchao 是模型训练领域的开源项目，由 sayakpaul 开发，2024 年首次发布。
它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 399。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-21。Apache-2.0许可证，可自由使用和部署，无付费版本。
它主要面向的使用场景是：生产环境部署StableDiffusion或Flux模型，需要降低推理延迟和显存成本。同类可对比的替代方案包括 AITemplate、TensorRT、OpenVINO。
下一篇：TCD
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
