跟着书一步步微调大模型，从零跑通全流程
这是一个配套书籍《使用PyTorch和Hugging Face微调LLMs的实践指南》的官方代码仓库，以Jupyter Notebook形式提供大量可运行的微调示例。项目主要解决大语言模型微调入门难、实践门槛高的问题，通过手把手代码演示，覆盖从数据准备、模型加载、训练循环到评估部署的完整流程。核心能力包括：基于Hugging Face Transformers和PyTorch的微调实现、多种微调策略（如全参数微调、LoRA等）、以及针对不同任务（如文本分类、生成）的实战案例。适合希望系统学习LLM微调技术的研究者和开发者，作为书籍配套资源，代码结构清晰，注释详尽，便于边学边练。
Hugging Face Transformers官方教程、PEFT（参数高效微调）库示例、LLM-Finetuning（如alpaca-lora）
FineTuningLLMs 是模型训练领域的开源项目，由 dvgodoy 开发，2024 年首次发布。
在全站 13,090 个收录项目中，它的 GitHub 星标数（868）位列前 30%，在模型训练分类中处于中上游。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-23。开源书籍配套代码，完全免费，无付费版本。
它主要面向的使用场景是：初学者系统学习LLM微调原理与实践。同类可对比的替代方案包括 Hugging Face Transformers官方教程、PEFT（参数高效微调）库示例、LLM-Finetuning（如alpaca-lora）。
下一篇：JacobiForcing
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
