
Complete-LLM-Finetuning
跟着 Notebook 跑一遍,就能亲手微调大模型
Complete-LLM-Finetuning 是一个以 Jupyter Notebook 形式呈现的大语言模型微调全流程教程项目,目标是帮助开发者从零掌握 LLM 微调的关键环节。它通常覆盖数据准备与清洗、指令格式构造、基座模型加载、LoRA/QLoRA 等参数高效微调方法、训练超参设置、显存优化、训练监控、模型合并与推理评测等步骤,并配有可运行的代码示例。项目解决的是微调知识碎片化、官方文档门槛高、新手不知从何下手的问题,把分散的实践串成一条可复现的学习路径。核心能力在于用 Notebook 边讲边练,让读者在单卡或有限显存环境下也能跑通微调流程,快速理解 SFT 的工程细节,适合作为入门教材和实验模板,而非开箱即用的生产框架。
项目数据
使用教程
核心亮点
- 以 Notebook 串联数据准备、LoRA/QLoRA 训练到推理评测的完整链路,步骤可复现
- 面向有限显存场景,包含量化与参数高效微调等省资源做法,新手单卡也能上手
- 代码与讲解结合,便于边改边学,适合作为微调实验的起步模板
不足之处
- 属于教程型项目,缺少封装好的训练框架和持续维护的工程化能力
- 星标较少、更新与社区活跃度有限,遇到新模型或新库版本可能需要自行适配
适用场景
- 个人开发者学习大模型 SFT 微调流程
- 小团队快速验证垂直领域指令微调可行性
- 课程或工作坊中作为动手实验材料
替代项目
LLaMA-Factory、unsloth、peft
项目介绍
上一篇:Liger-Kernel
下一篇:slime
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列,训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性,长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型,练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型,推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···