项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 189
核心亮点
- 创新性地结合旋转与置换变换，有效缓解激活值异常值对量化的影响
- 在多种LLM和量化位宽下均显著优于现有量化方法，接近全精度性能
- 作为NeurIPS 2024 Oral，方法经过严格学术评审，理论扎实
不足之处
- 双重变换可能引入额外计算开销，实际推理速度提升有限
- 文档/社区待观察
适用场景
- 在GPU显存受限环境部署4-bit量化LLM
- 边缘设备或移动端运行大模型
- 需要高精度低比特量化的推理服务
替代项目
AWQ、GPTQ、SmoothQuant
同类项目推荐
RLP
开源
把强化学习塞进预训练，让模型天生会决策
[ICLR 2026] Official PyTorch Implementation of RLP: Reinforcement as a Pretraining O···
Adaptive-MT-LLM-Fine-tuning
开源
微调开源大模型，让翻译更懂你的领域
Fine-tuning Open-Source LLMs for Adaptive Machine Translation
language-planner
开源
用大模型零样本生成任务规划，直接驱动具身智能体。
Official Code for "Language Models as Zero-Shot Planners: Extracting Actionable Know···
chronos-forecasting
开源
像用语言模型一样，零样本预测任意时间序列
Chronos: Pretrained Models for Time Series Forecasting
verifiers
开源
一套接口搞定 RL 训练环境与评测
Our library for RL environments + evals
vae-lagging-encoder
开源
修复VAE后验坍缩，让生成模型更稳定多样
PyTorch implementation of "Lagging Inference Networks and Posterior Collapse in Vari···
DoRA
开源
把LoRA拆成幅度和方向，微调效果更准更稳
[ICML2024 (Oral)] Official PyTorch implementation of DoRA: Weight-Decomposed Low-Ran···
DataFlex
开源
训练时动态挑数据，让模型学得更快更好
[NeurIPS 2026] DataFlex: A Unified Benchmark and Evaluation Platform for Data-Centri···
terratorch
开源
一键微调遥感大模型，快速落地地理空间AI应用
A Python toolkit for fine-tuning Geospatial Foundation Models (GFMs).