tiny-llm

在苹果芯片上从零手写一个迷你 vLLM，吃透推理服务

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 526 🐛 待处理 8 👀 关注 34

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 5692

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源课程，Apache-2.0 许可证，完全免费，可自行部署学习。

项目预览

项目数据

分类开源模型

开发团队skyzh

官网地址https://tiny-llm.dev

GitHubhttps://github.com/skyzh/tiny-llm

定价模式🏷️完全免费

价格说明开源课程，Apache-2.0 许可证，完全免费，可自行部署学习。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型course,large-language-model,llm,python,qwen,serving,vllm

GitHub 星标★ 5692

上线时间2025-04-19 00:00:00

代码更新2026-11-07

仓库体积7.7 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数7

项目介绍

tiny-llm 是一个面向系统工程师的 LLM 推理服务实战课程，专注于在 Apple Silicon 上构建一个精简版 vLLM + Qwen。项目通过亲手实现推理服务核心组件，帮助学习者深入理解 LLM 推理的完整流程，包括张量并行、KV Cache、连续批处理等关键概念。它解决了传统教程偏重模型使用而忽视系统实现的问题，提供从零搭建的代码和文档，让学习者能真正掌握推理服务的性能优化和工程落地。核心能力包括：基于 Apple Silicon 的硬件适配、vLLM 核心机制的简化复现、以及 Qwen 模型的实际部署。适合希望从系统层面理解 LLM 推理的工程师，也适合作为学习 vLLM 内部原理的入门教材。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5692

技术标签

course large-language-model llm python qwen

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 30 分钟部署方式：本地安装 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

运行环境需支持 MLX（课程基于 Apple Silicon 与 MLX 数组、MLX 扩展运行时）
已安装 Python（项目开发语言为 Python）
对矩阵运算、GPU kernel、LLM 推理有基础了解（课程面向系统工程师）
能访问 GitHub 以获取课程代码与更新

安装与启动步骤

1克隆课程仓库

从 GitHub 拉取 tiny-llm 课程代码到本地。README 节选未提供安装脚本或依赖清单，克隆后以仓库内文档为准。
```
git clone https://github.com/skyzh/tiny-llm.git
```
2进入仓库目录

切换到克隆下来的目录，查看目录结构与文档，确认各周章节的组织方式。
```
cd tiny-llm
```
3阅读学习路径

按 README 与官网的四周边学习路径规划：第 1 周从矩阵乘到文本生成，第 2 周加入 KV Cache 与优化。
4确认运行环境

课程基于 MLX arrays 与 MLX 扩展运行时，不使用高层神经网络层，请在支持 MLX 的机器上学习。