让视频生成模型推理更快，部署更省心
KsanaDiT 是一个面向视频与图像生成场景的高性能 Diffusion Transformer（DiT）推理框架，专注于解决 DiT 模型在推理阶段计算量大、延迟高的问题。它基于 PyTorch 和 CUDA 实现，针对注意力机制、算子融合和内存访问进行了深度优化，支持 Wan-V 等主流视频生成模型，并兼容 Qwen-Image 等图像生成架构。核心能力包括：高效的注意力实现、针对 DiT 的推理加速策略、以及为视频生成定制的优化管线。该框架旨在为 AI 内容创作提供低延迟、高吞吐的推理底座，适合需要部署大规模视频生成服务的团队使用。目前项目处于早期阶段，代码结构和文档仍在完善中。
TensorRT、vLLM、FasterTransformer
KsanaDiT 是基础设施领域的开源项目，由 Tencent 开发，是 2026 年新上线的项目。
它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 62。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-07-19。Apache-2.0 许可证，完全免费，可自行部署使用。
它主要面向的使用场景是：视频生成模型的线上推理服务，需要降低延迟和成本。同类可对比的替代方案包括 TensorRT、vLLM、FasterTransformer。
上一篇：WorldFoundry
下一篇：SpargeAttn
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
