mct-model-optimization

把神经网络量化剪枝压小,落到边缘芯片上跑

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 81 🐛 待处理 5 👀 关注 18
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 451
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,采用Apache 2.0许可证

项目数据

分类模型训练
开发团队SonySemiconductorSolutions
定价模式🏷️完全免费
价格说明开源免费,采用Apache 2.0许可证
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型deep-learning,deep-neural-networks,edge-ai,machine-learning,network-compression,network-quantization,neural-network,optimizer,ptq,pytorch,qat,quantization,tensorflow
GitHub 星标★ 451
上线时间2021-06-21 00:00:00
代码更新2026-10-29
仓库体积23.6 MB
本站数据更新2026-10-31
维护状态活跃
收录时间2026-10-31
浏览次数0

项目介绍

mct-model-optimization 是索尼开源的模型压缩工具包(Model Compression Toolkit),面向算力、内存和功耗受限的边缘硬件,帮助研究者和工程师把训练好的神经网络压缩到可部署规模。核心能力围绕量化与压缩展开:支持训练后量化(PTQ)和量化感知训练(QAT),提供多种量化位宽与粒度配置,并内置结构化剪枝、通道移除等压缩手段;同时提供硬件感知的量化模拟与评估流程,让开发者能在导出前检查精度损失。项目基于 Python 和 PyTorch 生态,配套文档与示例覆盖分类、检测等常见网络,可对接 TFLite 等部署格式。它解决的是大模型难以直接落到端侧芯片的问题,把精度、体积与推理效率的权衡做成可配置的工程流程。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-31 · 当前星标 ★ 451

核心亮点

  • 同时覆盖训练后量化与量化感知训练,并支持结构化剪枝,压缩手段较完整
  • 提供硬件感知的量化模拟与精度评估,导出前能定位精度损失
  • 由索尼团队维护,文档与示例较系统,覆盖分类、检测等典型网络

不足之处

  • 星标约 451,社区规模较小,第三方教程和问题讨论有限
  • 对非 PyTorch 框架和自定义算子的支持依赖导出链路,适配成本较高
  • 高级量化配置参数较多,新手需要一定学习曲线

适用场景

  • 把图像分类或目标检测模型量化后部署到手机、嵌入式芯片等端侧设备
  • 在模型上线前评估不同量化位宽和剪枝比例下的精度与体积权衡
  • 为自研推理硬件或加速器准备定点量化模型与校准流程

替代项目

NNCF、TensorRT、TFLite Micro

上一篇:GRACE

下一篇:prismaquant

同类项目推荐

OmniQuant 开源

把大模型压到4比特,速度更快内存更省,精度还不掉链子。

[ICLR2024 spotlight] OmniQuant is a simple and powerful quantization technique for L···

★ 969 2026-08-09
LongLoRA 开源

用少量算力把大模型上下文拉到 100k+,长文本任务轻松搞定

Code and documents of LongLoRA and LongAlpaca (ICLR 2024 Oral)

★ 2684 2026-08-09
MegaDLMs 开源

用扩散模型训练语言模型,更快更灵活

GPU-optimized framework for training diffusion language models at any scale. The bac···

★ 343 2026-08-09
RAG-Retrieval 开源

统一微调 RAG 检索模型,让召回更精准

Unify Efficient Fine-tuning of RAG Retrieval, including Embedding, ColBERT, ReRanke···

★ 1136 2026-08-09
Text-To-Video-Finetuning 开源

用 Diffusers 微调文本生成视频模型,定制专属视频风格

Finetune ModelScope's Text To Video model using Diffusers

★ 705 2026-08-09
AgentGym 开源

让大模型智能体在多样环境中自我进化,一键复现论文实验

Code and implementations for the ACL 2025 paper "AgentGym: Evolving Large Language M···

★ 854 2026-08-09
remote-gpu-trainer 开源

远程GPU训练全流程管理,从运行到交付可复现结果

An Agent Skill for Claude Code, Codex and other coding agents: train on rented GPUs ···

★ 42 2026-08-09
distributed-ml-patterns 开源

照着搭,快速搞定分布式机器学习系统

Distributed Machine Learning Patterns from Manning Publications by Yuan Tang https:/···

★ 546 2026-08-09