HongLabLLM

用 Notebook 一步步跑通自己的小语言模型

HongLabLLM 是一个以 Jupyter Notebook 为主要载体的开源大语言模型实践项目，面向希望从零理解并动手训练、微调小型语言模型的学习者。它把数据准备、分词、模型结构、训练循环、推理生成等关键环节拆解成可逐格运行的 notebook，让读者在浏览器里就能观察每一步的张量变化和损失曲线，而不必先搭建复杂的工程脚手架。项目重点不在追求榜单分数，而是降低 LLM 的学习门槛：通过可读的代码和注释解释注意力机制、位置编码、采样策略等概念，并允许用户替换自己的小语料做实验。对于想入门 NLP 与生成式模型、又不想被大型框架细节淹没的开发者，它是一个轻量、透明、可修改的教学型起点，也适合作为课程作业或自学路线的基础模板。