
stable-fast
让 Stable Diffusion 在 NVIDIA GPU 上跑出数倍速度,无需改代码。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1306
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Linux 或 Windows 的 WSL2 系统(stable-fast 目前仅在这两者上测试过)
- Python 3.10
- 支持 CUDA 的 PyTorch(README 建议 1.12~2.1,作者实测 torch>=2.1.0)
- CUDA 12.1 环境,且已安装 CUDNN/CUBLAS(源码编译时需要)
- 作者实测搭配版本:xformers>=0.0.22、triton>=2.1.0
安装与启动步骤
-
1准备 CUDA 环境
按 PyTorch 官网安装匹配 CUDA 12.1 的 PyTorch,并安装 xformers>=0.0.22、triton>=2.1.0。README 未给出具体安装命令。
-
2安装预构建 Wheel
从 GitHub Releases 页面下载与本机系统匹配的 whl 文件,把命令中的 /your/path 换成实际下载路径。
pip3 install /your/path/stable_fast.whl -
3从 PyPI 安装
README 注释中提到可从 PyPI 安装最新稳定版,适合不想自行编译源码的用户。
pip3 install -v -U stable-fast -
4从源码安装
从 GitHub main 分支源码安装。需本机已有编译环境和 CUDNN/CUBLAS;若构建与运行 GPU 型号不同,先设 TORCH_CUDA_ARCH_LIST。
pip3 install -v -U git+https://github.com/chengzeyi/stable-fast.git@main#egg=stable-fast
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
TORCH_CUDA_ARCH_LIST | 否 | 当构建与运行的 GPU 类型不同时,指定目标 GPU 架构再安装 | 8.6 |
如何确认成功
README 未提供验证命令;pip 安装无报错、能成功 import stable_fast 即可认为安装完成。
常见问题
Q:支持原生 Windows 吗?
A:README 说明 stable-fast 目前仅在 Linux 和 Windows 的 WSL2 中测试过,原生 Windows 未经验证。
Q:安装时报编译错误怎么办?
A:先确认已安装支持 CUDA 的 PyTorch 以及 CUDNN/CUBLAS,并尽量使用作者实测的 CUDA 12.1、Python 3.10、torch>=2.1.0 组合。
Q:换 GPU 后重装报架构不匹配?
A:若运行和构建 stable-fast 的 GPU 类型不同,安装前设置 TORCH_CUDA_ARCH_LIST 环境变量指定目标架构。
Q:预构建 wheel 从哪里下载?
A:从 GitHub 项目的 Releases 页面下载与系统匹配的 wheel 文件,再用 pip3 install 命令安装。
注意事项
- README 已声明 stable-fast 的活跃开发暂停,作者转向 ComfyUI 相关新项目。
- 项目只面向 NVIDIA CUDA GPU,不支持非 CUDA 硬件后端。
- 从源码安装需要本机具备编译工具链以及 CUDNN/CUBLAS。
- README 未给出使用示例代码,具体 API 集成方式请以仓库后续文档为准。
核心亮点
- 基于 Triton 和 CUDA 深度优化,推理速度提升显著,实测可达 2-3 倍。
- 与 HuggingFace Diffusers 无缝集成,只需几行代码即可启用,降低使用门槛。
- 支持动态形状和批处理,适合在线服务场景,能有效提升 GPU 利用率。
不足之处
- 仅支持 NVIDIA GPU,对 AMD 或 Apple Silicon 用户不友好。
- 文档和社区支持尚在完善中,遇到复杂问题可能缺乏现成解决方案。
适用场景
- Stable Diffusion 在线生图服务,需要低延迟响应。
- 批量生成图片或视频的离线任务,追求高吞吐量。
- 在单卡或有限 GPU 资源上运行大型扩散模型,减少显存压力。
替代项目
TensorRT、AITemplate、ONNX Runtime
上一篇:onediff
下一篇:modal-examples
同类项目推荐
hub
开源
用 Rust 打造的高性能 LLM 网关,自带监控,轻松管理大规模 AI 请求。
High-scale LLM gateway, written in Rust. OpenTelemetry-based observability included
pmetal
开源
Mac 上一条龙跑大模型:推理、微调、服务全本地
PMetal: high-performance Apple Silicon framework for local LLM inference, LoRA/QLoRA···
Data-Engineering-Roadmap
开源
一张图理清数据工程学习路径,从入门到实战
Roadmap for Data Engineering
new-api-docs-v1
开源
看 New API 文档,快速上手集成,少走弯路。
New API v1 official website documentation
MSLK
开源
为 GenAI 训练推理准备的 PyTorch 高性能 GPU 算子集
MSLK (Meta Superintelligence Labs Kernels) is a collection of PyTorch GPU operator l···
lucebox
开源
消费级显卡也能跑出更快的本地大模型推理
LLM speculative inference server for heterogeneous hardware & consumer GPUs
ai-observer
开源
把多个 AI 编程助手的调用记录统一收进本地 DuckDB,随时查。
Unified local observability for agents
onnxruntime
开源
一次导出模型,多端高效跑推理
ONNX Runtime: cross-platform, high performance ML inferencing and training accelerat···
dynamo
开源
把大模型推理做成数据中心级集群服务
A Datacenter Scale Distributed Inference Serving Framework