llms-from-scratch-rs

用 Rust 从零手写 GPT，边跑边懂大模型原理

这是 Sebastian Raschka《Build an LLM from Scratch》一书代码的 Rust 语言移植版本，用 candle 深度学习框架重写书中从零构建 GPT 类大语言模型的全部核心环节。项目覆盖文本分词、注意力机制、Transformer 块、GPT 模型结构、预训练流程、加载预训练权重以及指令微调等完整链路，让读者在 Rust 生态中复现书中的教学实验。它解决的是原书示例以 Python/PyTorch 为主、Rust 开发者难以直接上手的问题，同时借助 Rust 的性能与类型安全特性，帮助理解张量运算和模型训练细节。核心能力包括可运行的 GPT 训练与推理代码、与书中章节对应的模块划分、基于 candle 的 GPU/CPU 后端支持，以及配套的示例数据和权重加载脚本，适合作为学习 LLM 内部原理的动手项目。