ai-edge-quantizer

已训练好的 LiteRT 模型直接量化压缩，端侧部署更小更快

开源 free 模型训练

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 210

维护状态活跃

是否开源是

定价模式 free

项目预览

项目数据

分类模型训练

开发团队google-ai-edge

所属国家

官网地址

GitHubhttps://github.com/google-ai-edge/ai-edge-quantizer

定价模式free

价格说明开源免费

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型

GitHub 星标★ 210

30天Star增速

HF 下载量

上线时间2024-05-06 00:00:00

代码更新—

仓库体积—

本站数据更新—

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-10-17

浏览次数0

项目介绍

ai-edge-quantizer 是 Google AI Edge 团队推出的开源后训练量化工具，专门为 LiteRT（原 TensorFlow Lite）模型提供灵活的量化能力。它解决的核心问题是：端侧模型部署时体积大、推理慢、内存占用高，而传统量化流程往往需要重新训练或依赖复杂的手动配置。该工具允许开发者对已训练好的 LiteRT 模型直接进行后训练量化，无需重新训练即可压缩模型，并支持多种量化策略和粒度，例如按张量或按通道量化、权重与激活的位宽选择等。核心能力包括：对 LiteRT 模型进行权重量化、激活量化及混合精度配置，生成体积更小、推理更快的端侧模型，同时尽量保持精度。它面向移动端、嵌入式设备和边缘 AI 场景，帮助开发者在资源受限的硬件上部署更高效的模型，是 AI Edge 端侧推理工具链的重要一环。