transformer-tricks

查Transformer加速技巧,少走弯路,直接上手

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 17 👀 关注 8
GitHub ↗
GitHub 星标 ★ 236
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

transformer-tricks 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队OpenMachine-ai
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言TeX
技术栈/模型ai,arxiv,arxiv-papers,llm,llm-inference,llmops,machine-learning,python,transformer,transformer-models,transformer-pytorch
GitHub 星标★ 236
上线时间2024-03-11 00:00:00
代码更新2026-10-12
仓库体积17.3 MB
本站数据更新2026-11-09
维护状态较活跃
收录时间2026-08-09
浏览次数5

项目介绍

这是一个关于Transformer模型加速技巧与工具的集合仓库,主要面向深度学习工程师和研究者,解决Transformer推理和训练速度慢的问题。项目以TeX文档为主,系统整理了各类加速方法,包括但不限于注意力机制优化、模型量化、剪枝、蒸馏、算子融合、内存优化等实用技巧。内容涵盖从理论原理到工程实现的多个层面,旨在帮助开发者快速找到适合自己场景的加速方案,减少重复调研成本。项目目前处于早期阶段,内容结构清晰,适合作为技术手册查阅。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 236

核心亮点

  • 系统梳理了Transformer加速的多种主流方法,便于横向对比
  • 以文档形式呈现,适合作为团队内部技术培训材料
  • 涵盖从算法到工程的技巧,实用性强

不足之处

  • 项目处于早期,内容覆盖面和深度有限
  • 文档/社区待观察,缺乏活跃维护和更新

适用场景

  • 研发团队优化大模型推理性能时查阅
  • 个人开发者学习Transformer加速技术
  • 技术方案选型时对比不同加速手段

替代项目

awesome-transformer-nlp、Hugging Face Optimum、TensorRT

上一篇:Soup

下一篇:runbooks

同类项目推荐

easydistill 开源

一键蒸馏大模型,小模型也能拥有大智慧

a toolkit on knowledge distillation for large language models

★ 484 2026-08-09
autogluon 开源

三行代码搞定高精度模型,自动调参集成,省时省力

Fast and Accurate ML in 3 Lines of Code

★ 10821 2026-08-10
examples 开源

看示例,快速上手 Neptune 实验管理

Examples of how to use Neptune for different use cases and with various MLOps tools

★ 86 2026-08-09
verl-omni 开源

给扩散和全模态模型做 RL 后训练,一套框架跑通

Multimodal RL training framework for diffusion & omni models

★ 1481 2026-10-12
tirex 开源

零样本预测长短周期,无需训练直接上手

TiRex: Zero-Shot Forecasting Across Long and Short Horizons with Enhanced In-Context···

★ 308 2026-08-09
MoTHer 开源

从模型集合中自动还原模型家族树,看清模型间继承关系。

Official PyTorch Implementation for the "Unsupervised Model Tree Heritage Recovery" ···

★ 62 2026-08-09
TOTEM 开源

把时间序列变成 token,一个模型搞定预测、分类、异常检测

The official code ‍ for - TOTEM: TOkenized Time Series EMbeddings for General Time ···

★ 373 2026-08-09
RLCSD 开源

用对比自蒸馏强化 RL 训练,让策略更稳更高效

Source code of paper "RLCSD: Reinforcement Learning with Contrastive On-Policy Self-···

★ 116 2026-08-09
Time-R1 开源

用三阶段强化学习,让大模型真正理解时间、预测未来。

Time-R1: Framework and resources for endowing LLMs with comprehensive temporal reaso···

★ 72 2026-08-09