lora-speedrun

固定任务硬件,比谁把 LoRA 微调跑得最快

lora-speedrun 是一个把 LoRA 微调变成竞速比赛的开源基准项目,思路类似 modded-nanogpt,但聚焦在微调场景。它固定任务、固定硬件、以公开墙钟时间排行榜的方式,比较不同 LoRA/QLoRA 微调实现与优化技巧的速度。项目解决的是微调性能对比缺乏统一标准的问题:以往大家各自跑各自的脚本,硬件、数据、评测口径不一致,很难判断某个优化到底有没有用。该项目把变量锁死,只留下实现层面的差异,让参与者能公平地刷时间。核心能力包括可复现的基准任务、计时与排行榜机制、对 PEFT/QLoRA 等微调方案的横向对比支持,适合想研究训练加速、显存优化和工程调优的开发者。

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 149
维护状态 较活跃
是否开源 是
定价模式 free

项目数据

分类模型训练
开发团队Saivineeth147
所属国家
官网地址
定价模式free
价格说明开源项目,免费使用
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型benchmark,fine-tuning,leaderboard,llm,lora,peft,qlora,speedrun
GitHub 星标★ 149
30天Star增速
HF 下载量
上线时间2026-07-18 00:00:00
最近更新2026-09-26 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-29
浏览次数0

使用教程

核心亮点

  • 固定任务与硬件,墙钟时间口径统一,结果可直接横向比较
  • 借鉴 modded-nanogpt 的竞速模式,把微调优化变成可刷榜的明确目标
  • 覆盖 LoRA、QLoRA、PEFT 等主流微调路径,便于验证加速技巧的实际收益

不足之处

  • 项目处于早期,星标约 149,参与者与提交记录有限
  • 固定硬件设定导致结论向特定 GPU 环境倾斜,换硬件后参考价值下降

适用场景

  • 研究 LoRA 微调加速技巧时,用统一基准验证优化是否真的有效
  • 团队内部选型 PEFT/QLoRA 方案时,参考排行榜上的实现差异
  • 教学或分享中,用竞速形式直观展示微调工程优化的收益

替代项目

modded-nanogpt、peft、unsloth

项目介绍

lora-speedrun 是模型训练领域的开源项目,由 Saivineeth147 开发,是 2026 年新上线的项目。

它收录于模型训练分类,该分类目前共有 530 个项目,GitHub 星标数为 149。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-26。免费使用。

它主要面向的使用场景是:研究LoRA微调加速技巧时,用统一基准验证优化是否真的有效。同类可对比的替代方案包括 modded-nanogpt、peft、unsloth。

上一篇:dFactory

下一篇:allamo

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62652 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1298 2026-08-13