notebooks
照着 Notebook 改数据路径，就能微调 250+ 大模型
这是 Unsloth 官方维护的 Jupyter Notebook 合集，收录 250 多个面向文本、视觉、音频、嵌入和 TTS 模型的微调与强化学习示例。它解决的是大模型微调上手门槛高、环境配置繁琐、代码容易踩坑的问题：每个 notebook 都针对具体模型和任务写好完整流程，用户只需替换数据集路径即可在 Colab 或本地运行。核心能力包括 LoRA/QLoRA 高效微调、DPO/GRPO 等 RL 训练、多模态与语音模型适配，并深度集成 Unsloth 加速库，可显著降低显存占用、提升训练速度。项目以 Jupyter Notebook 为主要载体，代码即文档，适合快速复现和二次修改，是当前微调生态中覆盖模型最广的示例库之一。
项目数据
使用教程
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
环境要求
- 可运行 Jupyter Notebook 的环境（本地 Jupyter 或 Google Colab）
- 用于模型微调训练的 GPU 环境
- 能访问 GitHub / Google Colab 的网络（用于拉取仓库与在线运行）
安装与启动步骤
-
1获取 Notebook 合集
从 GitHub 克隆 Unsloth 官方 notebooks 仓库到本地，README 中未给出额外安装脚本，克隆后即可看到按模型分类的 .ipynb 文件。
git clone https://github.com/unslothai/notebooks.git -
2挑选目标模型 Notebook
在仓库中按模型名找到对应的 Notebook，每个 Notebook 针对具体模型和任务写好了完整流程，无需自己拼装训练代码。
-
3线上快速运行（可选）
README 提供了 Colab 直达按钮，也可直接在浏览器打开对应 Notebook 链接，免去本地环境配置。
https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/gpt-oss-(20B)-Fine-tuning.ipynb -
4替换数据集路径
按 README 说明，Notebook 内已包含数据准备、训练与推理三步，用户通常只需把数据集路径改为自己的数据即可运行。
-
5依次执行单元格
在 Jupyter 或 Colab 中自上而下执行单元格，完成数据准备、模型训练与推理验证；报错时可对照官方文档排查。
如何确认成功
Notebook 单元格自上而下执行无报错，并能完成一次数据准备、训练与推理输出，即视为运行成功。
常见问题
Q：没有本地 GPU 怎么用？
A：可使用 README 中提供的 Colab 一键运行按钮，在浏览器里直接打开对应模型 Notebook 运行，无需本地环境。
Q：需要自己写微调代码吗？
A：不需要。每个 Notebook 都针对具体模型和任务写好完整流程，通常只需替换数据集路径即可运行。
Q：怎么知道有哪些模型可用？
A：README 中按模型分类列出了各 Notebook，也可通过官网文档 https://unsloth.ai/docs/get-started/unsloth-notebooks 查看全部 Notebook。
Q：遇到问题去哪里求助？
A：README 提供了 Discord 社区入口 https://discord.gg/unsloth，可加入后提问。
注意事项
- Notebook 会持续更新，建议以 README 与官网文档中列出的版本为准。
- 不同模型对应不同 Notebook，请先确认模型名称再选择文件。
- 文档站 https://unsloth.ai/docs 提供了微调指南，可配合 Notebook 一起阅读。
核心亮点
- 覆盖文本、视觉、音频、嵌入、TTS 五大类模型，示例数量超过 250 个，选型时基本能找到对应模型
- 每个 notebook 自带完整可运行代码与依赖说明，支持 Colab 一键打开，降低环境配置成本
- 深度绑定 Unsloth 加速方案，在同等硬件下比标准 LoRA 更省显存、训练更快
不足之处
- 示例强依赖 Unsloth 库，若想迁移到 HuggingFace 原生 Trainer 或其他框架需自行改写
- Notebook 形式不利于工程化落地，缺少模块化封装和自动化测试，生产环境需二次重构
适用场景
- 个人开发者用 Colab 免费额度微调小参数模型做垂直领域问答
- 算法工程师快速验证新模型在自有数据集上的 LoRA 微调效果
- 团队为多模态或 TTS 模型搭建 RLHF/DPO 训练流程时参考现成模板
替代项目
LLaMA-Factory、axolotl、peft
项目介绍
上一篇：ktransformers
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···