Unified-MoE-Compression
给 MoE 模型瘦身，压缩后推理更快更省内存
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 93
核心亮点
- 官方论文实现，压缩方法经过系统验证，可信度高
- 覆盖剪枝、量化、低秩分解等多种主流压缩技术，选择灵活
- 提供统一评估框架，方便对比不同压缩策略的效果
不足之处
- 早期项目，文档和社区支持尚不完善
- 依赖特定 MoE 模型结构，迁移到新架构需要额外适配
适用场景
- 部署 MoE 大模型到资源受限的边缘设备
- 降低 MoE 模型在云服务上的推理成本和内存占用
- 研究 MoE 压缩技术，对比不同方法的性能与精度
替代项目
SparseGPT、LLM-Pruner、Mixtral-Quantization
上一篇：Kardia-R1
下一篇：FineTuningLLMs
同类项目推荐
dLLM-RL
开源
给扩散大模型装上强化学习引擎，训练出 SOTA 的 TraDo 系列
[ICLR 2026] Official code for TraceRL: Revolutionizing post-training for Diffusion L···
DiffusionART
开源
给扩散模型做稳定高效的强化学习后训练
Official Implementation of "DiffusionART: Efficient, Stable and Scalable Reinforceme···
stable-dreambooth
开源
用最少代码微调 Stable Diffusion，几张图定制专属模型。
Dreambooth implementation based on Stable Diffusion with minimal code.
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
SPPO
开源
让模型自我对弈，无需人工标注即可提升对齐效果
The official implementation of Self-Play Preference Optimization (SPPO)
Prism
开源
动态稀疏注意力，让2K音视频生成模型原生训练更省算力
We propose Prism, a dynamic sparse attention framework for natively training joint v···
llm-compressor
开源
一键压缩大模型，vLLM 直接跑，省显存提吞吐
State-of-the-art LLM compression, built for production inference with vLLM
Open-LLaVA-NeXT
开源
开源复现 LLaVA-NeXT，快速训练你的多模态对话模型
An open-source implementation for training LLaVA-NeXT.
ReAlign
开源
换个数据格式，让模型更听话
Reformatted Alignment