model-optimization

几行代码压缩模型，让大模型跑进手机和嵌入式设备

开源 free 模型训练

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 1580

维护状态活跃

是否开源是

定价模式 free

项目预览

项目数据

分类模型训练

开发团队tensorflow

所属国家

官网地址https://www.tensorflow.org/model_optimization

GitHubhttps://github.com/tensorflow/model-optimization

定价模式free

价格说明开源免费，Apache 2.0许可证

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型compression,deep-learning,keras,machine-learning,ml,model-compression,optimization,pruning,quantization,quantized-networks,quantized-neural-networks,quantized-training,sparsity,tensorflow

GitHub 星标★ 1580

30天Star增速

HF 下载量

上线时间2018-10-31 00:00:00

代码更新—

仓库体积—

本站数据更新—

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-10-17

浏览次数0

项目介绍

model-optimization 是 TensorFlow 官方推出的模型优化工具包，面向 Keras 和 TensorFlow 模型，提供量化、剪枝和权重聚类等压缩能力，帮助开发者把训练好的模型压缩到更小、更快，从而更适合部署到移动端、嵌入式设备和边缘硬件上。它解决的问题是：深度学习模型往往参数量大、推理慢、内存占用高，难以直接跑在资源受限的设备上。通过训练后量化、量化感知训练、结构化剪枝和权重聚类等 API，用户可以在几乎不改变原有 Keras 工作流的前提下，显著减小模型体积、降低延迟，并保持可接受的精度。工具与 TensorFlow Lite 转换流程紧密衔接，是端侧模型部署链路中的关键一环。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

难度：入门约 10 分钟部署方式：库/依赖 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

Python 环境（README 称其提供稳定的 Python API，未给出具体版本）
已安装 TensorFlow，工具面向 Keras 和 TensorFlow 模型
可访问官网安装指引页面 tensorflow.org/model_optimization/guide/install

安装与启动步骤

1查看官方安装指引

README 未直接给出安装命令，只指向官网安装页面，安装方式与命令需以该页面为准。
2确认 Python 环境

先确认本机已安装 Python 且可正常执行命令，这是使用该工具包的前置条件。
```
python --version
```
3确认 TensorFlow 可用

该工具包依赖 TensorFlow 与 Keras，建议先确认 TensorFlow 能正常导入并查看版本。
```
python -c "import tensorflow as tf; print(tf.__version__)"
```
4按官网指引安装

打开 README 给出的安装链接，按页面中的说明完成安装，不要自行臆造包名与参数。
5阅读教程与 API 文档

官网提供各类教程与 API 文档，可按需了解量化、剪枝与权重聚类的用法。

如何确认成功

按官网指引安装完成后，在 Python 中成功导入相关优化模块、且 TensorFlow 可正常使用即视为安装成功。

常见问题

Q：README 里为什么没有 pip install 命令？

A：README 的 Installation 一节只给出官网链接，安装说明统一放在 tensorflow.org/model_optimization/guide/install，请以该页面为准。

Q：需要先安装 TensorFlow 吗？

A：该工具包是面向 Keras 和 TensorFlow 模型的 Python 工具包，提供稳定 Python API，使用前需具备可用的 TensorFlow 环境。

Q：这个工具包能做什么优化？

A：支持量化以及面向稀疏权重的剪枝，并针对 Keras 提供专用 API，还能与 TensorFlow Lite 部署流程衔接。

Q：安装或使用中遇到问题去哪反馈？

A：项目使用 GitHub issues 跟踪请求与缺陷，可到 tensorflow/model-optimization 仓库的 issues 区提交。

Q：想参与贡献需要做什么？

A：先阅读仓库的 CONTRIBUTING.md 贡献指南，并遵守 TensorFlow 的行为准则。

注意事项

README 未提供具体安装命令，本教程中的命令仅为通用环境检查，安装步骤务必以官网指引为准。
不要凭经验臆造包名、版本号或参数，以免与官方安装说明不一致。
该工具包与 TensorFlow Lite 转换流程配合使用，部署到移动端或嵌入式设备时需一并了解转换流程。
提交贡献前请先阅读 CONTRIBUTING.md 并遵守 TensorFlow 行为准则。

核心亮点

TensorFlow 官方维护，与 Keras/TFLite 部署链路无缝集成
同时覆盖量化、剪枝、权重聚类三类主流压缩手段，API 简洁易用
支持训练后优化和量化感知训练，兼顾精度与压缩率

不足之处

主要绑定 TensorFlow 生态，PyTorch 用户无法直接使用
部分压缩能力依赖 TFLite 转换流程，非 TFLite 部署场景受限

适用场景

将图像分类模型量化后部署到安卓手机端
为嵌入式或 IoT 设备压缩模型以降低内存和功耗
在边缘推理服务中通过剪枝降低延迟、提升吞吐

替代项目

TensorRT、NNCF、torch.ao.quantization

上一篇：aimet

下一篇：ai-edge-quantizer