项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
技术标签
使用教程
—
环境要求
- Python 环境（能使用 pip 安装包）
- 已训练的浮点模型（PyTorch 或 ONNX 格式）
- 按需选择框架：PyTorch 对应 aimet-torch，ONNX 对应 aimet-onnx
- 网络可访问 PyPI 官方源
安装与启动步骤
-
1安装 PyTorch 版
README 说明 aimet-torch 已发布到 PyPI，直接在目标环境用 pip 安装即可。
pip install aimet-torch -
2安装 ONNX 版
若模型是 ONNX 格式，则安装 aims-onnx 包；两包按需装，不必都装。
pip install aimet-onnx -
3查阅官方 Quick Start
README 指向 Quick Start 页面，具体用法、版本要求以该文档为准，建议先通读再动手。
如何确认成功
执行 pip show aimet-torch（或 aimet-onnx），能正常显示包名与版本号即说明安装成功。
常见问题
Q：AIMET 需要重新训练模型吗？
A：不需要。它是在已训练好的浮点模型上做量化与压缩后处理，通过跨层均衡、偏差校正、AdaRound、QAT 等技术尽量保持精度。
Q：该装 aimet-torch 还是 aimet-onnx？
A：取决于你的模型格式：PyTorch 模型装 aimet-torch，ONNX 模型装 aimet-onnx，两者都以独立包的形式发布在 PyPI 上。
Q：安装或使用中遇到问题去哪里求助？
A：README 提供了 GitHub Discussions 与 Qualcomm AI Hub Slack 两个社区渠道，可在其中提问交流。
Q：支持哪些深度学习框架？
A：项目定位支持 PyTorch、TensorFlow、ONNX 等主流框架，README 中明确给出 PyPI 包的是 PyTorch 与 ONNX 两条线。
注意事项
- README 仅说明包已上架 PyPI 并给出 Quick Start 链接，实际安装步骤与版本约束请以官方 Quick Start 文档为准。
- 生产环境建议使用独立虚拟环境（如 venv/conda）安装，避免与已有依赖冲突。
- 量化压缩会改变模型数值精度，务必在自有数据集上验证精度与推理性能后再部署。
核心亮点
- 提供 CLE、BC、AdaRound、QAT、SVD、剪枝等完整量化压缩算法链，而非单一技术
- 支持 PyTorch/TensorFlow/ONNX 多框架，并附量化诊断与可视化工具，便于定位精度损失
- 由高通维护，面向真实端侧部署场景，工程落地性较强
不足之处
- 文档与示例偏工程化，新手理解量化流程门槛较高
- 部分高级特性与高通自家推理栈绑定较紧，跨平台通用性受限
适用场景
- 将云端训练好的大模型压缩后部署到手机、IoT 等边缘设备
- 在保持精度的前提下把模型量化到 8bit/4bit 以降低推理延迟和内存占用
- 对已有模型做剪枝和 SVD 压缩，减小模型体积便于分发和加载
替代项目
TensorRT、NNCF、neural-compressor
上一篇：Olive
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···