lora-speedrun 是模型训练领域的开源项目,由 Saivineeth147 开发,是 2026 年新上线的项目。
它收录于模型训练分类,该分类目前共有 530 个项目,GitHub 星标数为 149。
项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-26。免费使用。
它主要面向的使用场景是:研究LoRA微调加速技巧时,用统一基准验证优化是否真的有效。同类可对比的替代方案包括 modded-nanogpt、peft、unsloth。

固定任务硬件,比谁把 LoRA 微调跑得最快
lora-speedrun 是一个把 LoRA 微调变成竞速比赛的开源基准项目,思路类似 modded-nanogpt,但聚焦在微调场景。它固定任务、固定硬件、以公开墙钟时间排行榜的方式,比较不同 LoRA/QLoRA 微调实现与优化技巧的速度。项目解决的是微调性能对比缺乏统一标准的问题:以往大家各自跑各自的脚本,硬件、数据、评测口径不一致,很难判断某个优化到底有没有用。该项目把变量锁死,只留下实现层面的差异,让参与者能公平地刷时间。核心能力包括可复现的基准任务、计时与排行榜机制、对 PEFT/QLoRA 等微调方案的横向对比支持,适合想研究训练加速、显存优化和工程调优的开发者。
modded-nanogpt、peft、unsloth
lora-speedrun 是模型训练领域的开源项目,由 Saivineeth147 开发,是 2026 年新上线的项目。
它收录于模型训练分类,该分类目前共有 530 个项目,GitHub 星标数为 149。
项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-26。免费使用。
它主要面向的使用场景是:研究LoRA微调加速技巧时,用统一基准验证优化是否真的有效。同类可对比的替代方案包括 modded-nanogpt、peft、unsloth。
Long-RL
开源
让强化学习轻松驾驭超长序列,训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性,长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型,练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型,推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···