
lora-speedrun
固定任务硬件,比谁把 LoRA 微调跑得最快
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-29 · 当前星标 ★ 151
核心亮点
- 固定任务与硬件,墙钟时间口径统一,结果可直接横向比较
- 借鉴 modded-nanogpt 的竞速模式,把微调优化变成可刷榜的明确目标
- 覆盖 LoRA、QLoRA、PEFT 等主流微调路径,便于验证加速技巧的实际收益
不足之处
- 项目处于早期,星标约 149,参与者与提交记录有限
- 固定硬件设定导致结论向特定 GPU 环境倾斜,换硬件后参考价值下降
适用场景
- 研究 LoRA 微调加速技巧时,用统一基准验证优化是否真的有效
- 团队内部选型 PEFT/QLoRA 方案时,参考排行榜上的实现差异
- 教学或分享中,用竞速形式直观展示微调工程优化的收益
替代项目
modded-nanogpt、peft、unsloth
同类项目推荐
SepLLM
开源
压缩冗余片段,让大模型推理快 2.5 倍
[ICML 2025] "SepLLM: Accelerate Large Language Models by Compressing One Segment int···
vertex-ai-mlops
开源
照着做,就能在 Google Cloud 上跑通生产级 ML 流水线
Google Cloud Platform Vertex AI end-to-end workflows for machine learning operations
TEMPO
开源
用提示词调教时间序列预测,跨领域泛化更强
The official code for "TEMPO: Prompt-based Generative Pre-trained Transformer for Ti···
pycaret
开源
几行代码跑完建模全流程,小白也能交出好模型
Open-source, low-code AutoML platform for Python. PyCaret 4.0: sklearn-native engine···
LoongForge
开源
一套框架,NVIDIA 和昆仑芯通吃,搞定大模型全流程训练
A high-performance framework for training LLMs, VLMs, diffusion, and embodied models···
TFMQ-DM
开源
给扩散模型瘦身,4-bit量化不降画质,部署提速。
[CVPR 2024 Highlight & TPAMI 2025] This is the official PyTorch implementation of "T···
hls-foundation-os
开源
微调 HLS 遥感基础模型,快速落地分类任务
This repository contains examples of fine-tuning Harmonized Landsat and Sentinel-2 (···
LoadLoraWithTags
开源
一键管理 LoRA 触发词,自动补全,快速开关
Save/Load trigger words for loras from a json and auto fetch them on civitai if they···
MotionRFT
开源
给文本生成动作模型做轻量强化微调
[ICLR'26 & TPAMI‘26] This repository is the official implementation of "EasyTune: E···