Large-Language-Model-Notebooks-Course

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• 可运行 Jupyter Notebook 的本地环境（需要 Python）
• 已安装 Jupyter Notebook 或 JupyterLab
• 可访问 GitHub，并能下载 Hugging Face 上的模型权重
• 建议具备一定 GPU/内存资源，用于加载和剪枝 LLM（README 未给出具体硬件门槛）

安装与启动步骤

1. 1克隆课程仓库

   把课程仓库下载到本地，所有示例 notebook 都在这个仓库里。README 未给出安装脚本，此步为通用准备动作。

   git clone https://github.com/peremartra/Large-Language-Model-Notebooks-Course.git

   复制

2. 2进入项目目录

   切换到刚克隆下来的目录，后续命令都在这里执行。

   cd Large-Language-Model-Notebooks-Course

   复制

3. 3启动 Jupyter

   在本目录启动 Jupyter Notebook 服务，浏览器会自动打开工作目录页面。README 未指定启动方式，也可用 JupyterLab。

   jupyter notebook

   复制

4. 4打开对应 Notebook

   按学习主题进入子目录（如 6-PRUNING），打开 README 中列出的 .ipynb 文件，逐格运行查看结果。注意剪枝类 notebook 会实际改动模型结构。

5. 5对照 README 学习

   README 把每个 notebook 的用途写在标题和链接里，例如 distilGPT2 的 L1 结构化剪枝、Llama3.2 剪枝的正确与错误做法、深度剪枝、注意力层剪枝、偏差缓解剪枝。

如何确认成功

浏览器中打开 Jupyter 页面，能看到仓库目录结构并成功打开、运行任意 .ipynb 文件（如 6-PRUNING 下的剪枝 notebook）即表示环境就绪。

常见问题

注意事项

• 本仓库处于持续开发中，notebook 会不断更新，内容可能与已出版书籍不完全一致。
• README 没有提供环境安装命令、依赖清单或端口配置，本教程仅包含克隆仓库与启动 Jupyter 等通用准备步骤，具体依赖请按 notebook 内实际 import 安装。
• 剪枝会改变模型结构，README 提醒必须重新生成配置文件，模型才能被 transformers 库正确加载。
• 课程示例同时使用 OpenAI 和 Hugging Face 的模型，涉及在线模型时请注意账户与凭证配置。