SVD-LLM 是模型训练领域的开源项目，由 AIoT-MLSys-Lab 开发，2024 年首次发布。
它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 307。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。Apache-2.0许可，完全免费，可自行部署使用。
它主要面向的使用场景是：大模型本地化部署，降低显存占用。同类可对比的替代方案包括 LLM-Pruner、SparseGPT、LoRA。
SVD-LLM
用SVD给大模型瘦身，压缩后照样能打
SVD-LLM 是一个面向大语言模型的低秩压缩与微调框架，基于奇异值分解（SVD）技术，在保持模型性能的前提下显著减少参数规模和推理开销。它解决了大模型部署时内存占用高、推理速度慢的问题，核心能力包括对预训练模型进行结构化低秩近似、支持渐进式剪枝与微调，以及提供高效的参数更新策略。该框架已发表于 ICLR 2025，其后续版本 SVD-LLM V2 进一步优化了压缩流程，在 NAACL 2025 上发布。项目代码基于 Python 实现，目前处于早期阶段，星标数约 300，适合研究者和工程师用于模型压缩实验或生产环境中的轻量化部署。
开源
free
开源模型
GitHub 星标
★ 307
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类开源模型
开发团队AIoT-MLSys-Lab
所属国家
定价模式free
价格说明开源项目，Apache-2.0许可，完全免费，可自行部署使用。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型efficient-models,generative-ai,large-language-models,model-compression
GitHub 星标★ 307
30天Star增速
HF 下载量
上线时间2024-03-13 00:00:00
最近更新2026-09-21 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4
使用教程
核心亮点
- 基于SVD的低秩分解，压缩比高且可解释性强
- 支持渐进式剪枝与微调，兼顾压缩率和性能恢复
- 已发表顶会论文，方法经过学术验证
不足之处
- 文档/社区待观察
- 早期项目，API和功能可能不够稳定
适用场景
- 大模型本地化部署，降低显存占用
- 边缘设备上运行轻量级LLM
- 模型压缩研究，对比不同低秩方法
替代项目
LLM-Pruner、SparseGPT、LoRA
项目介绍
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···