oreilly-hands-on-gpt-llm

跟着实战学LLM部署，从微调到上线一步到位

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 98 🐛 待处理 2 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 145
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，无在线服务，需自行部署，完全免费。

项目预览

oreilly-hands-on-gpt-llm 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类基础设施
开发团队sinanuozdemir
官网地址https://learning.oreilly.com/live-events/deploying-gpt-large-language-models-llms/0642572012963
GitHubhttps://github.com/sinanuozdemir/oreilly-hands-on-gpt-llm
定价模式🏷️完全免费
价格说明开源项目，无在线服务，需自行部署，完全免费。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
主要语言Jupyter Notebook
技术栈/模型deepseek,distillation,docker,gguf,gpt,groq,k8s,llamacpp,llm,mlops,quantization
GitHub 星标★ 145
上线时间2023-01-10 00:00:00
代码更新2026-02-25
仓库体积34.1 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

这是一个配套O'Reilly书籍《Hands-On GPT-LLM》的实战代码仓库，专注于大规模、高效AI模型部署。项目以Jupyter Notebook形式提供从模型微调、量化、蒸馏到推理优化的完整示例，覆盖GPT系列和主流LLM的工程化落地。它解决了从训练到生产部署之间的鸿沟，让开发者能快速掌握模型压缩、服务化部署、性能调优等关键技能。核心能力包括：基于Hugging Face生态的微调流程、ONNX/TensorRT等加速方案、多GPU并行策略，以及实际部署中的内存和延迟优化技巧。适合希望系统学习LLM工程化、提升模型上线效率的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 145

核心亮点

  • 代码即教程，每个Notebook对应一个部署实战场景，可直接运行
  • 覆盖模型压缩（量化/蒸馏）到推理加速（ONNX/TensorRT）全链路
  • 结合O'Reilly书籍，理论+实践结合，学习路径清晰

不足之处

  • 文档/社区待观察
  • 依赖较多，环境配置可能稍复杂

适用场景

  • 学习LLM微调和部署的完整流程
  • 快速上手模型量化与推理加速技术
  • 作为企业LLM落地前的技术验证参考

替代项目

huggingface/notebooks、fastai/course-v4、microsoft/DeepSpeedExamples

上一篇：personalized-recommender-course

下一篇：machine-learning-models

同类项目推荐

coursemate-ai 开源

导入课件就能问答，复习答疑不用翻书

CourseMate AI — RAG course assistant and study agent

★ 5 2026-10-02
ai-engineer-notebooks 开源

免费Groq API，零框架手搓AI工程全技能

Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engi···

★ 742 2026-08-29
AI_Tutorial 开源

看大厂实战，学 AI 落地，少走弯路

大厂发布的AI落地实践、顶尖实验室的最新论文、工业界的真实踩坑记录

★ 3709 2026-08-09
python-openai-demos 开源

照着短示例跑通 OpenAI SDK 调用

A collection of short examples using the Python OpenAI SDK, with either Azure OpenAI···

★ 383 2026-11-09
hands-on-llm 开源

单卡手搓大模型，从预训练到 RLHF 全流程跑通

动手学大模型全栈：CS336 中文精讲 · PyTorch 手搓 Transformer · 单卡复现 Pretrain/SF···

★ 122 2026-09-24
mcp-crash-course 开源

跟着分支敲代码，快速上手 MCP 协议

Hands-on crash course for the Model Context Protocol (MCP) with project-based branch···

★ 183 2026-11-07
AI-agents-for-cybersecurity 开源

跟着课程用 AI Agent 自动研判安全告警

Hands-on code, labs, and reference material by Omar Santos for building, securing, a···

★ 268 2026-09-12
aibooks 开源

按图索骥，快速找到适合你的AI学习书籍。

Curated List of AI, ML and Deep Learning books

★ 95 2026-08-09