Awesome-LLM-Quantization

一页看清大模型量化方法与工具

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 33 🐛 待处理 1 👀 关注 12
GitHub ↗
GitHub 星标 ★ 454
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费资源列表

项目预览

Awesome-LLM-Quantization 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队pprp
定价模式🏷️完全免费
价格说明开源免费资源列表
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
GitHub 星标★ 454
上线时间2024-05-26 00:00:00
代码更新2026-10-27
仓库体积4.6 MB
本站数据更新2026-10-29
维护状态活跃
收录时间2026-10-29
浏览次数0

项目介绍

Awesome-LLM-Quantization 是一个面向大语言模型量化领域的资源汇总清单,以 Python 生态为背景,系统整理量化相关的论文、工具库、教程与实践方案。它解决的是量化知识分散、入门者难以快速建立全局认知的问题:把主流量化方法(如训练后量化、量化感知训练)、代表性开源实现、评测基准与部署注意事项集中到一处,方便研究者与工程师按图索骥。核心能力包括分类索引、按主题组织链接、持续收录新工作,并可作为选型时的对照表。项目本身不提供量化算法或推理代码,价值在于信息聚合与路线梳理,适合作为学习入口和团队内部技术调研的起点。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-29 · 当前星标 ★ 454

核心亮点

  • 按主题分类整理量化论文与工具,检索路径清晰
  • 覆盖训练后量化、量化感知训练等主要技术路线,便于横向对比
  • 以清单形式维护,更新成本低,适合作为团队调研起点

不足之处

  • 仅为资源索引,不含可运行代码或基准测试
  • 条目质量与时效依赖维护者投入,部分链接可能滞后

适用场景

  • 算法工程师调研大模型量化方案选型
  • 学生入门量化领域建立知识地图
  • 团队内部做技术分享时快速准备材料

替代项目

Awesome-LLM、Awesome-Quantization、llm-compression

上一篇:stable-audio-metrics

下一篇:SILENTCHAIN

同类项目推荐

openbench 开源

同一模型,不同封装,一测便知谁更省更快更准。

Same model, different wrapper: a from-scratch benchmark comparing coding-agent harne···

★ 138 2026-08-10
Aegis 开源

给 AI 代理加装安全护栏,零代码实现审计、审批和紧急停机。

Runtime policy enforcement for AI agents. Cryptographic audit trail, human-in-the-lo···

★ 524 2026-08-10
awesome-ai-leaderboard 开源

一榜在手,AI模型强弱全看透

A curated list of awesome leaderboard-oriented resources for AI domain

★ 384 2026-08-09
tau2-bench 开源

测测你的AI智能体,会不会在真实客服场景中翻车

τ-Bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains

★ 2350 2026-08-09
datafog-python 开源

给 AI 应用装个本地隐私闸门,敏感信息不出门。

Offline PII firewall for AI agents and LLM apps: fast local detection and redaction,···

★ 80 2026-08-09
pi-guardrails 开源

给 AI 代理装刹车,危险命令和环境文件先拦下

Security hooks for Pi. Prevents dangerous operations, protects env files, gates dest···

★ 302 2026-09-16
HallusionBench 开源

测出多模态模型的视觉幻觉,看清谁在瞎猜

[CVPR'24] HallusionBench: You See What You Think? Or You Think What You See? An Imag···

★ 345 2026-08-09
Alignment-Whack-a-Mole-Code 开源

微调一下,对齐模型又开始背版权书

The official code repo of Alignment Whack-a-Mole: Finetuning Activates Verbatim Reca···

★ 101 2026-10-28