让视频生成模型推理更快，画质不掉线
SLA（Sparse-Linear Attention）是一个面向扩散Transformer（DiT）的推理加速项目，通过引入可微调的稀疏线性注意力机制，在保持生成质量的同时大幅降低计算复杂度。它解决了现有稀疏注意力方法在扩散模型中因动态稀疏模式导致的计算开销和精度损失问题，核心能力包括：将标准注意力分解为稀疏和线性两部分，分别处理局部和全局依赖；支持对稀疏模式进行微调，以适配不同生成任务；提供基于Triton的高效CUDA内核，实现端到端加速。该项目适用于视频和图像生成模型的推理优化，特别适合长序列生成场景。
DeepSpeed、FlashAttention、xFormers
SLA 是基础设施领域的开源项目，由 thu-ml 开发，2025 年首次发布。
它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 471。
近 42 天，它的 GitHub 星标从 329 增加到 471，净增 142。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-20。Apache-2.0许可证，可免费使用和修改，无付费版本。
它主要面向的使用场景是：长视频序列的扩散模型推理加速。同类可对比的替代方案包括 DeepSpeed、FlashAttention、xFormers。
上一篇：SpargeAttn
下一篇：fastrtc
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
