LLM-FineTuning-Large-Language-Models

跟着 Notebook 一步步学会大模型微调

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 135 🐛 待处理 2 👀 关注 8
GitHub ↗
GitHub 星标 ★ 578
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,本地部署,完全免费

项目预览

LLM-FineTuning-Large-Language-Models 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队rohan-paul
定价模式🏷️完全免费
价格说明开源项目,本地部署,完全免费
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Jupyter Notebook
技术栈/模型gpt-3,gpt3-turbo,large-language-models,llama2,llm,llm-finetuning,llm-inference,llm-serving,llm-training,mistral-7b,open-source-llm,pytorch
GitHub 星标★ 578
上线时间2023-10-22 00:00:00
代码更新2025-04-01
仓库体积11.6 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

该项目是一个专注于大语言模型(LLM)微调的教学型开源仓库,主要使用 Jupyter Notebook 编写,旨在帮助开发者系统学习和实践大模型微调技术。它解决了初学者在微调过程中缺乏完整、可运行示例的问题,提供了从数据准备、模型加载、训练到评估的完整代码流程。核心能力包括:展示多种微调方法(如 LoRA、全量微调等),提供可交互的 Notebook 环境,并附带详细的注释和说明,让用户能够快速上手并理解微调的关键步骤。项目当前处于早期阶段(577 星),内容以教学和示例为主,适合作为学习大模型微调的入门资源。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 578

使用教程

难度:进阶 约 45 分钟 部署方式:本地安装 5 步

环境要求

  • Python 环境
  • Jupyter
  • 自己的样本数据

安装与启动步骤

  1. 1先看索引

    按模型家族分目录,先找到你要的那一类。

  2. 2起 notebook 环境

    装 Jupyter 与常用库,能跑起来就行。

    pip install jupyter
  3. 3挑一个最小例子

    从文本分类或摘要开始,别一上来就全参微调。

  4. 4准备自己的数据

    格式对齐 notebook 里的样例,字段名别改。

  5. 5跑通再换模型

    同一条流水线换成你要的底座。

如何确认成功

把 notebook 里的示例数据换成自己的小样本后能完整跑完一轮并拿到可读的评估数字

注意事项

  • 它是教学 notebook 集合,不是可复用框架。
  • 依赖版本散落在各 notebook,环境冲突常见。
  • 示例数据量很小,结论不能直接外推到生产。
  • 部分 notebook 依赖付费算力,本地跑要先减规模。

核心亮点

  • 基于 Jupyter Notebook,交互式学习体验好,可边看边改代码
  • 覆盖从数据预处理到模型评估的完整微调流程,实践性强
  • 代码注释详细,适合零基础入门大模型微调

不足之处

  • 文档/社区待观察
  • 项目处于早期,覆盖的微调方法可能不够全面

适用场景

  • 初学者学习大模型微调技术
  • 快速搭建微调实验环境
  • 教学培训中的实操案例

替代项目

Hugging Face PEFT、unsloth、LLaMA-Factory

上一篇:RewardModelingBeyondBradleyTerry

下一篇:MoTCoder

同类项目推荐

PSEC 开源

让AI智能体像搭积木一样,在参数空间里不断学习新技能、组合旧技能,应对新挑战。

[ICLR 2025] The offical implementation of "PSEC: Skill Expansion and Composition in ···

★ 68 2026-08-09
J-Wash 开源

可视化模型内部机制,手动微调对齐行为并导出结果

Jacobian-Brainwash : A manual alignment tool for large language models built on Anth···

★ 242 2026-08-09
chronos-forecasting 开源

像用语言模型一样,零样本预测任意时间序列

Chronos: Pretrained Models for Time Series Forecasting

★ 6283 2026-08-09
GuidedQuant 开源

用端到端损失引导量化,让大模型压缩后不掉点

Official PyTorch implementation of "GuidedQuant: Large Language Model Quantization v···

★ 58 2026-08-09
Satori 开源

用强化学习让大模型学会自主搜索推理路径,提升复杂问题解决能力

[ICML 2025] Satori: Reinforcement Learning with Chain-of-Action-Thought Enhances LLM···

★ 114 2026-08-09
meta-context-engineering 开源

让AI自动进化上下文策略,告别手写提示词

[ICML 2026] Meta Context Engineering via Agentic Skill Evolution

★ 185 2026-08-09
EasySteer 开源

不重训模型,推理时插拔式控制 LLM 行为

[EMNLP 2026] A Unified Framework for High-Performance and Extensible LLM Steering

★ 313 2026-10-07
Fairy-plus-minus-i 开源

把LLM权重量化搬到复数域,低比特下少掉点

Fairy±i (iFairy): Complex-valued Quantization Framework for Large Language Models

★ 136 2026-09-25
hyperdreambooth 开源

秒级生成专属人像,无需漫长训练

Implementation of HyperDreamBooth: HyperNetworks for Fast Personalization of Text-to···

★ 175 2026-08-09