model-compression
本站收录 11 个带「model-compression」标签的 AI 开源项目
nni微软开源的 AutoML 工具包，覆盖机器学习生命周期的自动化，包括特征工程、神经网络架构搜索、模型压缩与超参调优等环节。借助丰富的搜索算法与可视化面板，帮助团★ 14,364
Torch-PruningTorch-Pruning 是一个基于 PyTorch 的结构化剪枝工具库，核心实现 CVPR 2023 论文 DepGraph（依赖图）算法，旨在解决传统剪枝★ 3,358
DeepCacheDeepCache 是一个针对扩散模型（Diffusion Models）的免训练加速方案，核心思想是利用扩散模型去噪过程中相邻步骤间特征的高度相似性，通过缓存★ 968
Awesome-Quantization-Papers这是一个精选神经网络量化相关论文的列表项目，持续跟踪AI顶会和期刊的最新研究成果。它系统整理了模型压缩、低比特量化、量化感知训练、后训练量化等方向的关键论文，帮★ 855
q-diffusionQ-Diffusion 是 ICCV 2023 收录的扩散模型量化工具，主要解决 Stable Diffusion 等扩散模型在部署时内存占用大、推理速度慢的问★ 381
picollmpicollm 是一个专注于设备端（on-device）大语言模型推理的开源项目，通过 X-Bit 量化技术实现高效的模型压缩与推理。它支持 Gemma、Lla★ 318
SVD-LLMSVD-LLM 是一个面向大语言模型的低秩压缩与微调框架，基于奇异值分解（SVD）技术，在保持模型性能的前提下显著减少参数规模和推理开销。它解决了大模型部署时内★ 307
LLM-DropLLM-Drop 是论文《Uncovering the Redundancy in Transformers via a Unified Study of La★ 192
MoAMoA 是论文《MoA: Mixture of Sparse Attention for Automatic Large Language Model Comp★ 160
Unified-MoE-CompressionUnified-MoE-Compression 是论文《Towards Efficient Mixture of Experts: A Holistic Stu★ 92
SparseLLMSparseLLM 是 NeurIPS 2024 论文的官方实现，专注于大语言模型的全局剪枝。它解决的核心问题是：现有剪枝方法多依赖层内或局部启发式规则，难以在★ 71