LLM-Engineers-Handbook

从零到AWS部署,一本搞定LLM与RAG实战

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 搜索知识 🍴 复刻 1333 🐛 待处理 36 👀 关注 63
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 5426
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

LLM-Engineers-Handbook 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队PacktPublishing
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型aws,fine-tuning-llm,genai,llm,llm-evaluation,llmops,ml-system-design,mlops,rag
GitHub 星标★ 5426
上线时间2024-04-09 00:00:00
代码更新2026-04-22
仓库体积4.6 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数2

项目介绍

《LLM工程师手册》是一份面向大语言模型(LLM)工程实践的开源指南,旨在帮助开发者从零基础掌握LLM的核心概念,并进阶到在AWS云平台上部署高级LLM与RAG(检索增强生成)应用。项目内容覆盖LLM基础理论、提示工程、微调、RAG架构设计、LLMOps(大模型运维)最佳实践等关键环节,并提供了丰富的代码示例和实战演练,帮助开发者理解如何将模型从实验阶段推向生产环境,解决实际业务问题。该手册强调工程化落地,尤其关注在AWS生态中的部署、监控、成本优化和安全性,适合希望系统学习LLM应用开发的工程师、数据科学家和技术团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 5426

使用教程

难度:进阶 约 25 分钟 部署方式:本地安装 6 步

环境要求

  • Python 3.11(项目要求,可用全局 Python 或 pyenv)
  • Poetry 1.8.3 或更高版本(用于依赖管理)
  • Git(用于获取仓库代码)
  • OpenAI API Key 与 AWS 账号(云端部署时需要,按量付费)

安装与启动步骤

  1. 1获取项目代码

    把仓库克隆到本地并进入项目根目录,.env 必须放在仓库根目录。README 未直接给出克隆命令,此处使用项目 GitHub 地址。

    git clone https://github.com/PacktPublishing/LLM-Engineers-Handbook.git
    cd LLM-Engineers-Handbook
  2. 2确认 Python 版本

    项目要求 Python 3.11,先确认本机版本,输出应为 Python 3.11.x 才能继续。

    python --version
  3. 3确认 Poetry 版本

    项目用 Poetry 管理依赖,版本需为 1.8.3 或更高,过低请先升级 Poetry。

    poetry --version
  4. 4创建环境并装依赖

    让 Poetry 使用 3.11,安装依赖(排除 AWS 相关包),并安装 pre-commit 代码检查钩子。三条命令按顺序执行。

    poetry env use 3.11
    poetry install --without aws
    poetry run pre-commit install
  5. 5生成 .env 文件

    从示例文件复制出 .env,必须放在仓库根目录,该文件不会提交到 GitHub,可安全存放密钥。

    cp .env.example .env
  6. 6填写凭据并运行

    按 README 说明填好 .env 中所有必填变量;本地开发时 Mongo、Qdrant 等默认值可直接用,随后按 README 步骤运行完整流程。

如何确认成功

poetry install 无报错、pre-commit 钩子安装成功,且 .env 中必填项填完后,即可按 README 的 Run project 步骤跑通端到端流程。

常见问题

Q:本机 Python 不是 3.11 怎么办?

A:可用 pyenv 安装并设置项目专用的 Python 3.11,再执行 poetry env use 3.11,让 Poetry 使用该解释器,无需改动全局版本。

Q:安装依赖时提示 Poetry 版本过低?

A:项目要求 Poetry 1.8.3 或更高,先升级 Poetry 后重新执行 poetry env use 3.11 与 poetry install --without aws。

Q:安装或运行报错怎么办?

A:先到 GitHub 仓库的 Issues 区搜索,其他人可能已遇到并解决相同问题,也可直接在 Issues 中提问求助。

Q:本地开发一定要配置 AWS 吗?

A:不必。安装时用 poetry install --without aws 跳过 AWS 相关包;Mongo、Qdrant 等环境变量本地用默认值即可,云端部署见手册第 11 章。

Q:跑一遍项目大概要花多少钱?

A:除 AWS 与 OpenAI API 按量付费外,其余服务基本使用免费额度;按默认配置完整跑一次约 25 美元,主要来自 SageMaker 训练与推理。

注意事项

  • .env 存放敏感凭据,不要提交到 GitHub 或分享给他人。
  • README 未列出 .env 中具体变量名,请以仓库内 .env.example 和手册正文为准逐项填写。
  • 云端部署需额外配置 Mongo、Qdrant 与 AWS;纯本地开发使用默认值即可。
  • 推荐按手册章节顺序阅读,先跑通本地 RAG 流程再上云,避免一上来就产生 AWS 费用。

核心亮点

  • 系统化覆盖LLM全栈知识,从基础到生产部署,路径清晰
  • 深度结合AWS平台,提供真实云环境下的部署与运维指南
  • 包含大量代码示例和实操项目,学习与实战并重

不足之处

  • 内容偏向AWS生态,对使用其他云平台的开发者参考价值受限
  • 部分高级主题深度有限,需结合官方文档进一步学习

适用场景

  • 个人开发者系统学习LLM与RAG应用开发
  • 团队规划在AWS上落地LLM产品时的技术参考
  • 技术培训或课程设计,作为实践教材

替代项目

LangChain、LlamaIndex、Hugging Face Transformers

上一篇:learn-ai-engineering

下一篇:tiny-universe

同类项目推荐

ai-hands-on 开源

跟着Notebook动手学AI,从零基础到实战

A group of notebooks and other files which can help you learn AI from scratch.

★ 1465 2026-08-09
cs329z-chinese 开源

斯坦福智能体课程中文笔记,19讲+4实践一站学

斯坦福 Stanford CS329Z Engineering AI Agents 中文教程:面向 Python 开发者的 AI 智能体···

★ 509 2026-11-02
claude-with-leetcode 开源

让 Claude 当你的每日算法私教,刷题不再卡壳

Daily Leetcode masterclass with Claude code DSA mentor

★ 88 2026-08-09
vibefast-docs 开源

25 个教程,用 AI 和 Cloudflare 快速构建并全球部署你的 SaaS MVP。

Learn Vibe Coding with AI & Cloudflare. A free 25-tutorial course to build real web···

★ 55 2026-08-09
modern-llm-notebook 开源

手写代码从零搭建现代大模型,26个实战Notebook带你入门

A hands-on course on modern LLM architectures, training, and inference, with step-by···

★ 280 2026-08-09
MLQuestions 开源

按岗位方向刷ML/CV面试题,快速补齐知识盲区

Machine Learning and Computer Vision Engineer - Technical Interview Questions

★ 4960 2026-09-18
regression2chatgpt 开源

从线性回归一路手写到大模型,边跑代码边看懂 ChatGPT

Companion Code for Deconstructing Large Language Models

★ 294 2026-09-15
nlpia 开源

跟着书学NLP,边读边跑代码,快速上手对话机器人

Examples and libraries for "Natural Language Processing in Action" book

★ 631 2026-08-09