把 Stable Diffusion 推理压到 0.88 秒，实时出图不是梦。
x-stable-diffusion 是一个专注于 Stable Diffusion 实时推理加速的开源项目，目标是将延迟降低至 0.88 秒。项目集成了多种主流推理优化技术，包括 AITemplate、nvFuser、TensorRT 和 FlashAttention，并提供了基于 Jupyter Notebook 的详细教程和 Docker 环境，方便开发者复现和部署。它解决了 Stable Diffusion 在消费级 GPU 上推理速度慢、显存占用高的问题，通过融合算子、优化注意力机制等手段，显著提升图像生成效率。项目还涵盖了 ONNX 和 ONNX Runtime 的转换与优化，适合对推理性能有极致要求的开发者和研究者。
Stable-Diffusion.cpp、Diffusers、TensorRT-LLM
x-stable-diffusion 是基础设施领域的开源项目，由 stochasticai 开发，2022 年首次发布。
它收录于基础设施分类，该分类目前共有 1,132 个项目，GitHub 星标数为 556。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-20。官网为stochastic.ai，非GitHub域名，但定价信息未明确，需进一步确认。从国内网络环境看，可直接访问。
它主要面向的使用场景是：在消费级GPU上实现StableDiffusion的实时交互式生成。同类可对比的替代方案包括 Stable-Diffusion.cpp、Diffusers、TensorRT-LLM。
下一篇：LLM-Hub
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
