onediff

一键加速扩散模型，生成速度提升数倍，画质不变

OneDiff 是一个开箱即用的扩散模型加速库，专门针对 Stable Diffusion 等图像生成模型进行推理优化。它解决了扩散模型生成速度慢、部署成本高的问题，通过自研的编译器和运行时，在不牺牲画质的前提下显著提升生成速度。核心能力包括：对 Diffusers 和 ComfyUI 的即插即用支持，自动编译优化计算图，支持 LoRA、LCM 等加速技术，以及针对 NVIDIA GPU 的深度性能调优。用户无需修改现有代码即可获得数倍加速，特别适合高并发推理和实时生成场景。项目提供 Python API 和命令行工具，也支持服务化部署，降低了大模型落地的门槛。

开源 free 图像生成

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1964

维护状态低维护

是否开源是

定价模式 free

项目数据

分类图像生成

开发团队siliconflow

所属国家

官网地址https://github.com/siliconflow/onediff/wiki

GitHubhttps://github.com/siliconflow/onediff

定价模式free

价格说明开源加速库，Apache-2.0 许可证，完全免费，可自行部署使用。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Jupyter Notebook

技术栈/模型aigc-serving,comfyui,comfyui-workflow,cuda,diffusers,diffusion-models,inference-engine,lcm,lcm-lora,lora,performance-optimization,pytorch,sd-webui,sdxl,sdxl-turbo,stable-diffusion,stable-video-diffusion

GitHub 星标★ 1964

30天Star增速

HF 下载量

上线时间2022-09-21 00:00:00

最近更新2026-09-09 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数3

使用教程

难度：进阶约 10 分钟部署方式：库/依赖 5 步

环境要求

Python 3 环境（README 全程使用 python3 -m pip）
已安装 pip，可正常访问 PyPI
NVIDIA GPU + CUDA 环境（README 按 CUDA 11.8 / 12.1 / 12.2 区分安装包）
torch、transformers、diffusers 运行依赖
可访问 GitHub 或 README 给出的国内镜像源以下载 OneFlow

安装与启动步骤

1安装基础依赖

先装 torch、transformers 与 diffusers，README 提示 diffusers/transformers 可自行选择想要的版本。
```
python3 -m pip install "torch" "transformers==4.27.1" "diffusers[torch]==0.19.3"
```
2安装 Nexfort 后端

Nexfort 与 OneFlow 二选一；DiT 结构模型或 H100 设备推荐用 Nexfort，无需两者都装。
```
python3 -m pip install -U torch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 torchao==0.1
python3 -m pip install -U nexfort
```
3安装 OneFlow 后端

备选后端，适用于非 DiT 模型和非 H100 场景。此处以 CUDA 11.8 为例，其它 CUDA 版本请按 README 更换链接。
```
python3 -m pip install -U --pre oneflow -f https://github.com/siliconflow/oneflow_releases/releases/expanded_assets/community_cu118
```
4从 PyPI 装 onediff

推荐方式，直接安装 onediff 预发布包，无需克隆仓库。
```
python3 -m pip install --pre onediff
```
5从源码安装

需要改代码或跟最新进展时使用；开发模式用 pip install -e '.[dev]'。
```
git clone https://github.com/siliconflow/onediff.git
cd onediff && python3 -m pip install -e .
```

如何确认成功

README 未给出启动或自检命令，以各步 pip 安装无报错、且 onediff 安装完成作为成功标志。

常见问题

Q：OneFlow 和 Nexfort 该选哪个？

A：二者可选其一，不必都装。DiT 结构模型或 H100 设备推荐 Nexfort；其它情况推荐 OneFlow，未来 OneFlow 内的优化会逐步迁移到 Nexfort。

Q：国内下载 OneFlow 很慢或失败怎么办？

A：README 为 CN 用户提供了阿里云镜像源，把 -f 后面的链接换成 https://oneflow-pro.oss-cn-beijing.aliyuncs.com/branch/community/cu118 即可。

Q：diffusers、transformers 版本必须固定吗？

A：不必。README 明确说明可以自行选择想要的最新版本，示例中的 0.19.3、4.27.1 只是参考值。

Q：想做分布式推理怎么办？

A：可以继续使用 onediff 的编译器，在 xDiT 这类分布式推理引擎中做单设备加速。

注意事项

README 更新 OneFlow 较频繁，务必使用它给出的链接安装，不要随意用默认源版本
CUDA 11.8 与 12.1/12.2 使用不同的安装链接，选错会导致后端不可用
需要 NVIDIA GPU 环境，OneDiff 主要针对 NVIDIA GPU 做性能调优
本教程只覆盖安装部分，Python API 与 ComfyUI/Diffusers 用法请参考官方 Wiki

核心亮点

兼容 Diffusers 和 ComfyUI，无需改代码即可接入，上手快
编译优化技术成熟，实测可带来 2-4 倍加速，效果显著
支持 LoRA、LCM 等主流加速方案，灵活适配不同需求

不足之处

目前主要支持 NVIDIA GPU，对 AMD/Intel 等硬件覆盖有限
文档/社区待观察，部分高级用法示例不够丰富

适用场景

Stable Diffusion 在线服务，降低单次生成成本
ComfyUI 工作流加速，提升批量出图效率
实时交互式生成，如 AI 绘画工具的后端推理

替代项目

TensorRT、AITemplate、OpenVINO

项目介绍

onediff 是基础设施领域的开源项目，由 siliconflow 开发，2022 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（1,964）位列前 30%，在基础设施分类中处于中上游。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-09。开源加速库，Apache-2.0 许可证，完全免费，可自行部署使用。

它主要面向的使用场景是：StableDiffusion在线服务，降低单次生成成本。同类可对比的替代方案包括 TensorRT、AITemplate、OpenVINO。

上一篇：OnnxStream

下一篇：stable-fast