optimum-quanto

环境要求

• Python 环境（项目为 Python 包）
• pip 包管理工具（README 通过 pip 安装）
• PyTorch（quanto 是 PyTorch 量化后端）

安装与启动步骤

1. 1确认 Python 与 pip

   确认本机已有 Python 和 pip 环境；README 只说明 quanto 以 pip 包形式分发，未提及其他前置安装步骤。

2. 2安装 optimum-quanto

   使用 pip 从 PyPI 安装 optimum-quanto，这是 README 给出的唯一安装命令。

   pip install optimum-quanto

   复制

3. 3确认可导入

   安装完成后在 Python 中导入该包，若无 ImportError 即安装成功；README 未给出具体导入路径。

如何确认成功

执行 pip install optimum-quanto 无报错，且在 Python 中导入该包不出现 ImportError。

常见问题

注意事项

• README 明确项目处于维护模式，主要接收维护类 PR。
• README 建议生产可用量化可考虑 bitsandbytes 或 torchAO。
• 量化模型序列化兼容 PyTorch weight_only 与 safetensors。