qwix

JAX 模型一键低比特量化,省显存提速

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 140
维护状态 活跃
是否开源 是
定价模式 free

项目预览

项目数据

分类模型训练
开发团队google
所属国家
官网地址
定价模式free
价格说明开源免费,定价信息待确认
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型
GitHub 星标★ 140
30天Star增速
HF 下载量
上线时间2025-03-19 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-17
浏览次数0

项目介绍

qwix 是一个基于 JAX 的量化库,面向模型训练与推理场景,帮助开发者在 JAX 生态中实现低精度量化。它解决的核心问题是:JAX 原生缺乏系统化的量化工具链,用户若想对模型做 int8、int4 等低比特压缩,往往需要手写大量底层代码。qwix 提供可复用的量化算子、量化感知训练组件和权重转换流程,让模型在保持精度的同时显著降低显存占用和计算开销。其核心能力包括:支持多种量化位宽与粒度(如逐张量、逐通道),与 JAX 的 jit、vmap、pmap 等变换兼容,便于在 TPU/GPU 上加速;提供训练时伪量化与推理时真量化两条路径,方便从研究到部署的迁移。项目目前处于早期阶段,API 可能随版本迭代调整,适合愿意跟进前沿量化研究的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

  • 与 JAX 的 jit/vmap/pmap 原生兼容,量化算子可被自动微分和并行变换
  • 同时覆盖量化感知训练与推理量化两条路径,便于研究到部署衔接
  • 支持逐张量、逐通道等多种量化粒度,位宽可配置

不足之处

  • 项目处于早期,API 稳定性与文档完整度有待观察
  • 社区规模小,缺少生产环境大规模验证案例

适用场景

  • 在 TPU 上训练大模型时用 int8 量化降低显存占用
  • 将 JAX 训练好的模型转成低比特权重用于边缘推理
  • 研究量化感知训练对模型精度的影响

替代项目

Flax、JAXopt

上一篇:ai-edge-quantizer

下一篇:apex-quant

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 464 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 63828 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1317 2026-08-13