llm-action

从原理到实战,一站式掌握大模型工程化落地

llm-action 是一个面向大模型工程师和开发者的开源知识库与实战指南,系统梳理了大模型从训练、微调到推理部署的全链路技术原理与工程实践。项目以教程和代码示例为核心,覆盖大模型基础理论、分布式训练框架(如 DeepSpeed、Megatron)、参数高效微调(LoRA、QLoRA)、推理优化(量化、vLLM)、以及模型服务化部署等关键环节,帮助开发者理解大模型落地中的核心挑战并快速上手。其内容组织清晰,既有深入的原理解析,也有可直接运行的代码,旨在缩短从理论到工程应用的距离,解决大模型项目落地中技术选型难、实践门槛高的问题。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 25094
维护状态 维护中
是否开源
定价模式 free

项目数据

分类基础设施
开发团队liguodongiot
所属国家
官网地址
定价模式free
价格说明开源项目,完全免费,无付费版本。
访问状态
是否开源
开源协议Apache-2.0
主要语言HTML
技术栈/模型llm,llm-inference,llm-serving,llm-training,llmops
GitHub 星标★ 25094
30天Star增速
HF 下载量
上线时间2023-05-23 00:00:00
最近更新2026-09-22 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3

使用教程

难度:入门 约 5 分钟 部署方式:本地安装 6 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • git(用于克隆仓库)
  • 可阅读 Markdown 的编辑器或浏览器
  • 如需按文档实践,准备 Linux 服务器与 NVIDIA A800/H800 或昇腾 910 等加速卡环境

安装与启动步骤

  1. 1克隆仓库

    把 llm-action 完整下载到本地,仓库以文档和示例为主,体积较小。

    git clone https://github.com/liguodongiot/llm-action.git
  2. 2进入项目目录

    切换到克隆下来的目录,后续所有文档路径都相对该目录。

    cd llm-action
  3. 3查看总目录

    README 中的目录列出了训练、推理、压缩、测评、数据工程等章节导航。

    cat README.md
  4. 4查看基础环境文档

    README 给出 A800/H800 等服务器基础环境安装命令文档的位置,按卡型选择阅读。

    cat docs/llm-base/a800-env-install.md
  5. 5查看 H800 环境文档

    若使用 H800 加速卡,改看对应文档,安装命令以该文档内容为准。

    cat docs/llm-base/h800-env-install.md
  6. 6查看昇腾环境文档

    国产昇腾 910 卡的环境安装说明位于 llm_localization 目录下。

    cat llm_localization/ascend910-env-install.md

如何确认成功

执行 ls docs 能看到 llm-base 等目录,且能正常打开对应的 Markdown 安装文档即为成功。

常见问题

Q:这个项目需要 pip install 或 docker run 吗?

A:README 未提供统一的安装脚本或镜像,仓库内容以教程文档和示例代码为主,具体依赖要看对应章节文档里的说明。

Q:文档里提到的 A800/H800 安装命令在哪里?

A:在仓库的 docs/llm-base/a800-env-install.md 和 docs/llm-base/h800-env-install.md 中,README 已给出这两个链接。

Q:昇腾 910 的安装说明在哪?

A:在 llm_localization/ascend910-env-install.md 中,README 的“服务器基础环境安装及常用工具”一节给出了该链接。

Q:为什么有些链接点开是博客网站?

A:README 中的 Linux、Conda、Docker、Kubernetes 等常用命令大全指向掘金、知乎、CSDN 等站外文章,需要联网访问。

注意事项

  • README 没有提供统一安装命令,本教程只覆盖克隆仓库与定位文档,未涉及的命令一律未列出。
  • 具体软件版本、CUDA、驱动等以各章节文档(如 A800/H800/昇腾 910 安装文档)为准。
  • 部分内容链接到站外博客,访问需要网络。
  • 仓库内容会持续更新,建议定期 git pull 获取最新文档。

核心亮点

  • 系统覆盖训练、微调、推理、部署全链路,知识体系完整
  • 提供大量可运行的代码示例,便于动手实践
  • 紧跟主流框架(DeepSpeed、vLLM等),技术时效性强

不足之处

  • 内容以教程为主,缺乏统一的项目模板或工具库
  • 部分代码依赖特定环境,复现可能需要额外配置

适用场景

  • 大模型工程师系统学习训练与推理优化
  • 技术团队选型微调框架或推理方案时参考
  • 个人开发者快速上手大模型应用开发

替代项目

Hugging Face Transformers、LangChain、llm-course

项目介绍

llm-action 是学习教育领域的开源项目,由 liguodongiot 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(25,094)位列前 2%,在学习教育分类的 427 个项目里位列前 5%。

近 44 天,它的 GitHub 星标从 24,880 增加到 25,094,净增 214。

项目仍在小幅维护中,最近一次代码更新于 2026-09-22。完全免费,无付费版本。

它主要面向的使用场景是:大模型工程师系统学习训练与推理优化。同类可对比的替代方案包括 Hugging Face Transformers、LangChain、llm-course。

上一篇:grokking-system-design

下一篇:mlops-zoomcamp

同类项目推荐

awesome-awesome-ai 开源

一站式导航AI资源,告别收藏夹吃灰

An awesome list for collecting awesome lists related to AI.

★ 136 2026-08-09
machine-learning 开源

免费学AI,从入门到实战,社区共建资源库

Learn AI together, for free. AI learning and teaching resources for everyone.

★ 231 2026-08-09
groundhog 开源

拆解 Cursor 原理,手把手教你造 AI 编程助手

Groundhog's primary purpose is to teach people how Cursor and all these other coding···

★ 405 2026-08-09
notebooks 开源

跟着最新视觉模型教程,边看边跑代码,快速上手实战

A collection of tutorials on state-of-the-art computer vision models and techniques.···

★ 9686 2026-08-10