ADI-Stable-Diffusion

用 C++ 和 ONNXRuntime 让 Stable Diffusion 推理飞起来

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 图像生成 🍴 复刻 75 🐛 待处理 1 👀 关注 52
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 465
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源库,GPL-3.0许可证,完全免费,无付费版本。

项目预览

ADI-Stable-Diffusion 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类图像生成
开发团队Windsander
定价模式🏷️完全免费
价格说明开源库,GPL-3.0许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议GPL-3.0
主要语言C++
技术栈/模型diffusers,library,stable-diffusion
GitHub 星标★ 465
上线时间2024-05-08 00:00:00
代码更新2026-09-02
仓库体积23.8 MB
本站数据更新2026-11-09
维护状态维护中
收录时间2026-08-09
浏览次数3

项目介绍

ADI-Stable-Diffusion 是一个基于 C++ 和 ONNXRuntime 的 Stable Diffusion 推理加速库,旨在解决 Python 生态下 SD 推理性能瓶颈和跨平台部署难题。它提供统一的 C/C++ 框架设计,支持多种硬件后端(CPU、GPU、NPU等),并兼容 diffusers 接口,方便开发者将现有 Python 工作流迁移到高性能的 C++ 环境。核心能力包括模型优化、量化加速、内存管理和多平台编译支持,显著降低延迟和资源占用。项目处于早期阶段,但已展示出在边缘设备、服务器端等场景下高效运行 SD 模型的潜力。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 465

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:高级 约 45 分钟 部署方式:本地构建 4 步

环境要求

  • C++ 编译工具链
  • ONNXRuntime
  • SD 的 ONNX 权重

安装与启动步骤

  1. 1装推理前端

    macOS 可以直接 brew 装,其它平台走源码构建。

    brew install adi
  2. 2或直接构建

    脚本会处理 CMake 与 ONNXRuntime 依赖,平台用参数区分。

    bash ./auto_build.sh
  3. 3准备模型文件

    它不内置权重,把 SD 的 ONNX 模型放到指定目录再启动。

  4. 4跑一次单图推理

    先用小分辨率确认能出图,再往上加步数。

    cd ./cmake-build-debug/bin/

如何确认成功

不改任何 Python 环境的前提下,纯 CPU 跑出一张能看的图,并且进程内存不持续增长

注意事项

  • 卖点是纯 C++ / ONNXRuntime 推理,不依赖 Python 与 diffusers,适合嵌到端侧应用里。
  • CPU 推理速度有限,出图时间按分钟计,别期待交互级响应。
  • 构建脚本平台参数要写对,交叉编译到 Android 需要额外配 NDK。
  • 权重需自行转换或下载 ONNX 版本,直接用 ckpt 跑不起来。

核心亮点

  • 基于 ONNXRuntime,可无缝利用多种硬件加速(如 CUDA、TensorRT、OpenVINO)
  • C++ 统一框架设计,适合嵌入式或对性能要求苛刻的部署场景
  • 兼容 diffusers 接口,降低从 Python 迁移的学习成本

不足之处

  • 项目早期,文档和示例较少,上手门槛较高
  • 社区活跃度低,问题响应和更新可能不及时

适用场景

  • 边缘设备(如手机、IoT)上运行轻量级图像生成
  • 服务端高并发图像生成服务,需降低单次推理成本
  • 需要将 SD 集成到 C++ 原生应用(如游戏、设计软件)

替代项目

Stable-Diffusion.cpp、OnnxStream、Diffusers (Python)

同类项目推荐

Free-GPT-Grok-Gemini-Claude-API 开源

一个API直连GPT/Claude/Gemini,国内可用,支付宝付款

Access GPT-5, o4, Claude 4.5 & Gemini 3 via one API. The best OpenRouter alternative···

★ 218 2026-08-09
rocketplaneIO 开源

让 AI 直接修复 K8s 故障,零插桩、可离线部署

Self-hosted AI SRE for Kubernetes — zero-instrumentation eBPF observability plus a ···

★ 113 2026-08-09
post-modern-stack 开源

打通数据与AI,一套栈搞定从数据到模型上线

Joining the modern data stack with the modern ML stack

★ 203 2026-08-09
Misceo 开源

让 AI 调用自动选便宜模型,质量不翻车,成本一目了然

Local Anthropic-compatible AI gateway with cheap-first routing, quality gates, safe ···

★ 848 2026-08-09
awesome-ai-api-proxy 开源

一张清单,搞定所有AI模型中转站选型

One key. Every model. Anywhere. — A curated map of AI API relay stations & LLM gate···

★ 104 2026-08-09
VelesDB 开源

一个二进制搞定 Agent 记忆,召回还能给出证据链

The explainable, local-first memory engine for AI agents. One ~9 MB binary fuses vec···

★ 102 2026-11-02
client 开源

官方多语言客户端,让应用直接调用 Triton 推理服务

Triton Python, C++ and Java client libraries, and GRPC-generated client examples for···

★ 703 2026-11-08
dockit 开源

用大白话聊数据库,AI 帮你查 Elasticsearch、MongoDB 等,可视化监控一把梭。

Agentic desktop GUI client for Elasticsearch, OpenSearch, DynamoDB, MongoDB & EasySe···

★ 1143 2026-08-09
yek 开源

把整个代码库一键打包成 LLM 能懂的上下文

A fast Rust based tool to serialize text-based files in a repository or directory fo···

★ 2475 2026-08-09