mlsys
本站收录 10 个带「mlsys」标签的 AI 开源项目
cs249r_book哈佛 CS249r 课程配套开源教材《Machine Learning Systems》，覆盖机器学习系统从基础到前沿的完整知识体系，分为四卷：基础、扩展、智能★ 28,927
AReaLAReaL 是一个面向 LLM Agent 应用的开源强化学习框架，旨在简化并灵活地桥接强化学习与基于大语言模型的智能体应用。它解决了将 RL 技术应用于复杂 ★ 5,826
AI-Infra-from-Zero-to-Hero这是一个面向机器学习系统领域的精选资源合集，旨在帮助开发者从零开始系统学习AI基础设施。项目汇集了OSDI、NSDI、SIGCOMM、SoCC、MLSys等顶级★ 4,420
SageAttention清华开源的量化注意力算子，相较 FlashAttention 可实现 2~5 倍加速，在语言、图像与视频模型上均保持端到端指标不损失，被 ICLR 2025、I★ 3,966
nunchakununchaku 是 ICML 2025 Spotlight 论文 SVDQuant 的官方开源实现，专注于 4-bit 扩散模型的量化推理与微调。它通过低秩组★ 3,959
SpargeAttnSpargeAttn 是一个训练无关的稀疏注意力加速库，旨在加速任意模型（尤其是视频生成模型）的推理过程。它通过利用注意力分数中的稀疏性，动态跳过不重要的计算，★ 1,260
SLASLA（Sparse-Linear Attention）是一个面向扩散Transformer（DiT）的推理加速项目，通过引入可微调的稀疏线性注意力机制，在保持★ 551
Awesome-KV-Cache-Optimization这是一个面向大模型推理服务的 KV Cache 优化综述仓库，对应 ACL 2026 论文《Towards Efficient Large Language M★ 418
Active-Learning-as-a-ServiceActive-Learning-as-a-Service 是一个面向所有人的可扩展且高效的数据选择与主动学习系统。它旨在解决机器学习中数据标注成本高昂、数据冗余★ 221
redcoRedCoast是一个轻量级工具，旨在自动化分布式训练和推理流程，特别针对大语言模型和扩散模型。它解决了在联邦学习、差分隐私等场景下，多机多卡环境配置复杂、代码★ 69