项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 64
核心亮点
- 专注 DiT 推理优化，针对注意力机制和算子融合有深度定制，性能提升明显
- 支持 Wan-V 等主流视频生成模型，并兼容 Qwen-Image，适配性较好
- 基于 PyTorch 和 CUDA，技术栈贴近主流，便于集成到现有 AI 推理流程
不足之处
- 项目处于早期阶段，文档和社区支持尚待完善
- 目前主要支持特定模型（如 Wan-V），通用性有待扩展
适用场景
- 视频生成模型的线上推理服务，需要降低延迟和成本
- 图像生成模型的批量推理加速，提升吞吐量
- AI 内容创作平台的后端推理引擎，支撑高并发请求
替代项目
TensorRT、vLLM、FasterTransformer
上一篇：WorldFoundry
下一篇：SpargeAttn
同类项目推荐
ChatGPTReversed
开源
免费逆向 ChatGPT 网页版，一键转成标准 API 调用
Free ChatGPT API reversed and simplified
NpgsqlRest
开源
数据库直接变 REST API，省掉写后端代码
Transform Your PostgreSQL Database into a Production-Ready, Blazing-Fast Standalone ···
seait
开源
一键安装主流 AI 绘画工具，告别命令行折腾
SEAIT is a user-friendly application that simplifies the installation process of AI-···
ai-memory-gateway
开源
给任何AI加上长期记忆，改个接口就行
给AI加长期记忆的轻量网关 / A lightweight gateway that adds long-term memory to any L···
paas-data-ingestion
开源
用Pulumi+Lambda+Snowflake搭建可重放的数据管道，告别数据不一致
Ingesting data with Pulumi, AWS lambdas and Snowflake in a scalable, fully replayabl···
dgx-spark-inference-stack
开源
在桌面级 AI 超算上，一键部署本地大模型推理服务
Serve the home! Inference stack for your Nvidia DGX / RTX Spark (128GB ram) aka the ···
dama
开源
一键容器化部署，快速跑通机器学习自动化流程
a simplified machine learning container platform that helps teams get started with a···
gateway
开源
一个 API 接入 1600+ 模型，内置安全护栏，AI 应用开发提速。
A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI G···
whodb
开源
统一管理多源数据，自动梳理血缘与质量，让数据资产清晰可控。
Where data access meets operational intelligence