项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 465
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- C++ 编译工具链
- ONNXRuntime
- SD 的 ONNX 权重
安装与启动步骤
-
1装推理前端
macOS 可以直接 brew 装,其它平台走源码构建。
brew install adi -
2或直接构建
脚本会处理 CMake 与 ONNXRuntime 依赖,平台用参数区分。
bash ./auto_build.sh -
3准备模型文件
它不内置权重,把 SD 的 ONNX 模型放到指定目录再启动。
-
4跑一次单图推理
先用小分辨率确认能出图,再往上加步数。
cd ./cmake-build-debug/bin/
如何确认成功
不改任何 Python 环境的前提下,纯 CPU 跑出一张能看的图,并且进程内存不持续增长
注意事项
- 卖点是纯 C++ / ONNXRuntime 推理,不依赖 Python 与 diffusers,适合嵌到端侧应用里。
- CPU 推理速度有限,出图时间按分钟计,别期待交互级响应。
- 构建脚本平台参数要写对,交叉编译到 Android 需要额外配 NDK。
- 权重需自行转换或下载 ONNX 版本,直接用 ckpt 跑不起来。
核心亮点
- 基于 ONNXRuntime,可无缝利用多种硬件加速(如 CUDA、TensorRT、OpenVINO)
- C++ 统一框架设计,适合嵌入式或对性能要求苛刻的部署场景
- 兼容 diffusers 接口,降低从 Python 迁移的学习成本
不足之处
- 项目早期,文档和示例较少,上手门槛较高
- 社区活跃度低,问题响应和更新可能不及时
适用场景
- 边缘设备(如手机、IoT)上运行轻量级图像生成
- 服务端高并发图像生成服务,需降低单次推理成本
- 需要将 SD 集成到 C++ 原生应用(如游戏、设计软件)
替代项目
Stable-Diffusion.cpp、OnnxStream、Diffusers (Python)
同类项目推荐
Free-GPT-Grok-Gemini-Claude-API
开源
一个API直连GPT/Claude/Gemini,国内可用,支付宝付款
Access GPT-5, o4, Claude 4.5 & Gemini 3 via one API. The best OpenRouter alternative···
rocketplaneIO
开源
让 AI 直接修复 K8s 故障,零插桩、可离线部署
Self-hosted AI SRE for Kubernetes — zero-instrumentation eBPF observability plus a ···
post-modern-stack
开源
打通数据与AI,一套栈搞定从数据到模型上线
Joining the modern data stack with the modern ML stack
Misceo
开源
让 AI 调用自动选便宜模型,质量不翻车,成本一目了然
Local Anthropic-compatible AI gateway with cheap-first routing, quality gates, safe ···
awesome-ai-api-proxy
开源
一张清单,搞定所有AI模型中转站选型
One key. Every model. Anywhere. — A curated map of AI API relay stations & LLM gate···
VelesDB
开源
一个二进制搞定 Agent 记忆,召回还能给出证据链
The explainable, local-first memory engine for AI agents. One ~9 MB binary fuses vec···
client
开源
官方多语言客户端,让应用直接调用 Triton 推理服务
Triton Python, C++ and Java client libraries, and GRPC-generated client examples for···
dockit
开源
用大白话聊数据库,AI 帮你查 Elasticsearch、MongoDB 等,可视化监控一把梭。
Agentic desktop GUI client for Elasticsearch, OpenSearch, DynamoDB, MongoDB & EasySe···
yek
开源
把整个代码库一键打包成 LLM 能懂的上下文
A fast Rust based tool to serialize text-based files in a repository or directory fo···
