lora-speedrun

固定任务硬件,比谁把 LoRA 微调跑得最快

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 模型训练 🍴 复刻 9 🐛 待处理 6 👀 关注 2
GitHub ↗
GitHub 星标 ★ 151
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源项目,免费使用

项目预览

lora-speedrun 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类模型训练
开发团队Saivineeth147
定价模式🏷️完全免费
价格说明开源项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型benchmark,fine-tuning,leaderboard,llm,lora,peft,qlora,speedrun
GitHub 星标★ 151
上线时间2026-07-18 00:00:00
代码更新2026-09-12
仓库体积2.2 MB
本站数据更新2026-11-12
维护状态维护中
收录时间2026-09-29
浏览次数4

项目介绍

lora-speedrun 是一个把 LoRA 微调变成竞速比赛的开源基准项目,思路类似 modded-nanogpt,但聚焦在微调场景。它固定任务、固定硬件、以公开墙钟时间排行榜的方式,比较不同 LoRA/QLoRA 微调实现与优化技巧的速度。项目解决的是微调性能对比缺乏统一标准的问题:以往大家各自跑各自的脚本,硬件、数据、评测口径不一致,很难判断某个优化到底有没有用。该项目把变量锁死,只留下实现层面的差异,让参与者能公平地刷时间。核心能力包括可复现的基准任务、计时与排行榜机制、对 PEFT/QLoRA 等微调方案的横向对比支持,适合想研究训练加速、显存优化和工程调优的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-29 · 当前星标 ★ 151

核心亮点

  • 固定任务与硬件,墙钟时间口径统一,结果可直接横向比较
  • 借鉴 modded-nanogpt 的竞速模式,把微调优化变成可刷榜的明确目标
  • 覆盖 LoRA、QLoRA、PEFT 等主流微调路径,便于验证加速技巧的实际收益

不足之处

  • 项目处于早期,星标约 149,参与者与提交记录有限
  • 固定硬件设定导致结论向特定 GPU 环境倾斜,换硬件后参考价值下降

适用场景

  • 研究 LoRA 微调加速技巧时,用统一基准验证优化是否真的有效
  • 团队内部选型 PEFT/QLoRA 方案时,参考排行榜上的实现差异
  • 教学或分享中,用竞速形式直观展示微调工程优化的收益

替代项目

modded-nanogpt、peft、unsloth

上一篇:dFactory

下一篇:allamo

同类项目推荐

SepLLM 开源

压缩冗余片段,让大模型推理快 2.5 倍

[ICML 2025] "SepLLM: Accelerate Large Language Models by Compressing One Segment int···

★ 573 2026-08-09
vertex-ai-mlops 开源

照着做,就能在 Google Cloud 上跑通生产级 ML 流水线

Google Cloud Platform Vertex AI end-to-end workflows for machine learning operations

★ 719 2026-08-09
TEMPO 开源

用提示词调教时间序列预测,跨领域泛化更强

The official code for "TEMPO: Prompt-based Generative Pre-trained Transformer for Ti···

★ 143 2026-08-09
pycaret 开源

几行代码跑完建模全流程,小白也能交出好模型

Open-source, low-code AutoML platform for Python. PyCaret 4.0: sklearn-native engine···

★ 9862 2026-08-09
LoongForge 开源

一套框架,NVIDIA 和昆仑芯通吃,搞定大模型全流程训练

A high-performance framework for training LLMs, VLMs, diffusion, and embodied models···

★ 839 2026-08-13
TFMQ-DM 开源

给扩散模型瘦身,4-bit量化不降画质,部署提速。

[CVPR 2024 Highlight & TPAMI 2025] This is the official PyTorch implementation of "T···

★ 111 2026-08-09
hls-foundation-os 开源

微调 HLS 遥感基础模型,快速落地分类任务

This repository contains examples of fine-tuning Harmonized Landsat and Sentinel-2 (···

★ 409 2026-08-09
LoadLoraWithTags 开源

一键管理 LoRA 触发词,自动补全,快速开关

Save/Load trigger words for loras from a json and auto fetch them on civitai if they···

★ 90 2026-08-09
MotionRFT 开源

给文本生成动作模型做轻量强化微调

[ICLR'26 & TPAMI‘26] This repository is the official implementation of "EasyTune: E···

★ 256 2026-10-28