项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 216
核心亮点
- 无需重新训练模型，直接替换推理流程即可加速，集成成本低
- 在保持图像质量的前提下，实测可带来数倍加速（如 SD 系列）
- 支持多卡分布式并行，充分利用现有硬件资源
不足之处
- 需要多 GPU 环境才能发挥效果，单卡场景下加速收益有限
- 异步通信可能引入额外延迟，对网络带宽要求较高
- 文档/社区待观察
适用场景
- 大规模图像生成服务，需要降低单张图片生成延迟
- 多卡服务器上的批量文生图任务，提升吞吐量
- 研究扩散模型加速算法，作为对比基线或改进基础
替代项目
Stable Diffusion WebUI (with xformers)、DeepCache、LCM-LoRA
同类项目推荐
dockit
开源
用大白话聊数据库，AI 帮你查 Elasticsearch、MongoDB 等，可视化监控一把梭。
Agentic desktop GUI client for Elasticsearch, OpenSearch, DynamoDB, MongoDB & EasySe···
gpt2giga
开源
改个地址，现有 LLM 客户端直接接 GigaChat
FastAPI proxy for OpenAI, Anthropic and Gemini compatible clients backed by the Giga···
magnitude
开源
按你的硬件自动调内核，本地跑模型更快
Open source inference engine that tunes its kernels on your hardware to find the fas···
superserve
开源
给 AI Agent 一个安全隔离的执行沙箱
Sandbox infrastructure for AI Agents
mlplatform-workshop
开源
用示例代码快速搭建机器学习平台骨架
Example code for a basic ML Platform based on Pulumi, FastAPI, DVC, MLFlow and more
aligned
开源
像 DBT 管数仓一样，理清 ML 数据依赖，减少技术债
The DBT of ML, as Aligned describes data dependencies in ML systems, and reduce tech···
redis
开源
高性能内存数据库，搞定缓存、队列和实时查询
For developers, who are building real-time data-driven applications, Redis is the pr···
krasis
开源
显存不够也能跑大模型，混合推理榨干硬件性能
Krasis is a Hybrid LLM runtime which focuses on efficient running of larger models o···
steedos-platform
开源
用大白话把需求变成企业软件，AI 驱动快速搭建 ERP/CRM
The AI-Native Infrastructure for Enterprise Apps. Powered by ObjectStack (ObjectQL, ···