Large-Language-Model-Notebooks-Course

边跑代码边学大模型，快速上手LLM实战

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 451 👀 关注 34

GitHub ↗

GitHub 星标 ★ 1828

维护状态维护中

是否开源开源

定价模式 🏷️完全免费开源课程，MIT许可证，完全免费，无付费版本。

项目预览

Large-Language-Model-Notebooks-Course 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队peremartra

GitHubhttps://github.com/peremartra/Large-Language-Model-Notebooks-Course

定价模式🏷️完全免费

价格说明开源课程，MIT许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Jupyter Notebook

技术栈/模型chatbots,fine-tuning-llm,hf,huggingface,langchain,large-language-models,peft-fine-tuning-llm,pruning,transformers,vector-database

GitHub 星标★ 1828

上线时间2023-05-01 00:00:00

代码更新2026-09-29

仓库体积18.6 MB

本站数据更新2026-11-09

维护状态维护中

收录时间2026-08-09

浏览次数4

项目介绍

这是一个面向开发者的实用大语言模型（LLM）课程，以Jupyter Notebook为载体，通过大量可运行的代码示例，系统讲解LLM的核心概念、主流架构、微调技术、推理优化以及应用开发。课程内容覆盖从Transformer原理到LoRA、QLoRA等高效微调方法，再到模型部署与提示工程实战，旨在帮助学习者快速上手并落地LLM项目。项目解决了理论学习与工程实践脱节的问题，提供了可交互、可复现的学习路径，适合希望系统提升LLM实战能力的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1828

技术标签

chatbots huggingface langchain large-language-models pruning

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 15 分钟部署方式：本地安装 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

可运行 Jupyter Notebook 的本地环境（需要 Python）
已安装 Jupyter Notebook 或 JupyterLab
可访问 GitHub，并能下载 Hugging Face 上的模型权重
建议具备一定 GPU/内存资源，用于加载和剪枝 LLM（README 未给出具体硬件门槛）

安装与启动步骤

1克隆课程仓库

把课程仓库下载到本地，所有示例 notebook 都在这个仓库里。README 未给出安装脚本，此步为通用准备动作。
```
git clone https://github.com/peremartra/Large-Language-Model-Notebooks-Course.git
```
2进入项目目录

切换到刚克隆下来的目录，后续命令都在这里执行。
```
cd Large-Language-Model-Notebooks-Course
```
3启动 Jupyter

在本目录启动 Jupyter Notebook 服务，浏览器会自动打开工作目录页面。README 未指定启动方式，也可用 JupyterLab。
```
jupyter notebook
```
4打开对应 Notebook

按学习主题进入子目录（如 6-PRUNING），打开 README 中列出的 .ipynb 文件，逐格运行查看结果。注意剪枝类 notebook 会实际改动模型结构。
5对照 README 学习

README 把每个 notebook 的用途写在标题和链接里，例如 distilGPT2 的 L1 结构化剪枝、Llama3.2 剪枝的正确与错误做法、深度剪枝、注意力层剪枝、偏差缓解剪枝。

如何确认成功

浏览器中打开 Jupyter 页面，能看到仓库目录结构并成功打开、运行任意 .ipynb 文件（如 6-PRUNING 下的剪枝 notebook）即表示环境就绪。

常见问题

Q：这个仓库和《Large Language Models》那本书是什么关系？

A：README 说明本仓库是该书的非官方仓库，内容基于书中内容但持续更新；书中原始 notebook 在 Apress 官方仓库（Apress/Large-Language-Models-Projects）中。

Q：为什么照着 notebook 剪枝 Llama3.2 后模型完全不能用？

A：README 指出把 distilGPT2 的剪枝方式直接套用到 Llama 会导致模型不可用；正确做法是把 MLP 层成对处理，并用最大绝对权重评估神经元重要性。

Q：注意力层剪枝会让模型变小吗？

A：不会。README 明确说明这种剪枝不改变模型结构，只是把贡献最小的注意力层标记为绕过，因此提升推理效率但不减小模型体积。

Q：偏差缓解那个 notebook 依赖什么库？

A：README 说明它使用 optipfair 库进行层激活和内部偏差指标的可视化，并提供配套的 Hugging Face Space 可在线体验。

注意事项

本仓库处于持续开发中，notebook 会不断更新，内容可能与已出版书籍不完全一致。
README 没有提供环境安装命令、依赖清单或端口配置，本教程仅包含克隆仓库与启动 Jupyter 等通用准备步骤，具体依赖请按 notebook 内实际 import 安装。
剪枝会改变模型结构，README 提醒必须重新生成配置文件，模型才能被 transformers 库正确加载。
课程示例同时使用 OpenAI 和 Hugging Face 的模型，涉及在线模型时请注意账户与凭证配置。