
transformer-tricks
查Transformer加速技巧,少走弯路,直接上手
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 236
技术标签
核心亮点
- 系统梳理了Transformer加速的多种主流方法,便于横向对比
- 以文档形式呈现,适合作为团队内部技术培训材料
- 涵盖从算法到工程的技巧,实用性强
不足之处
- 项目处于早期,内容覆盖面和深度有限
- 文档/社区待观察,缺乏活跃维护和更新
适用场景
- 研发团队优化大模型推理性能时查阅
- 个人开发者学习Transformer加速技术
- 技术方案选型时对比不同加速手段
替代项目
awesome-transformer-nlp、Hugging Face Optimum、TensorRT
同类项目推荐
easydistill
开源
一键蒸馏大模型,小模型也能拥有大智慧
a toolkit on knowledge distillation for large language models
autogluon
开源
三行代码搞定高精度模型,自动调参集成,省时省力
Fast and Accurate ML in 3 Lines of Code
examples
开源
看示例,快速上手 Neptune 实验管理
Examples of how to use Neptune for different use cases and with various MLOps tools
verl-omni
开源
给扩散和全模态模型做 RL 后训练,一套框架跑通
Multimodal RL training framework for diffusion & omni models
tirex
开源
零样本预测长短周期,无需训练直接上手
TiRex: Zero-Shot Forecasting Across Long and Short Horizons with Enhanced In-Context···
MoTHer
开源
从模型集合中自动还原模型家族树,看清模型间继承关系。
Official PyTorch Implementation for the "Unsupervised Model Tree Heritage Recovery" ···
TOTEM
开源
把时间序列变成 token,一个模型搞定预测、分类、异常检测
The official code for - TOTEM: TOkenized Time Series EMbeddings for General Time ···
RLCSD
开源
用对比自蒸馏强化 RL 训练,让策略更稳更高效
Source code of paper "RLCSD: Reinforcement Learning with Contrastive On-Policy Self-···
Time-R1
开源
用三阶段强化学习,让大模型真正理解时间、预测未来。
Time-R1: Framework and resources for endowing LLMs with comprehensive temporal reaso···