llm-action

从原理到实战，一站式掌握大模型工程化落地

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署基础设施 🍴 复刻 2861 🐛 待处理 20 👀 关注 200

GitHub ↗

GitHub 星标 ★ 25262

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，完全免费，无付费版本。

项目预览

项目数据

分类基础设施

开发团队liguodongiot

GitHubhttps://github.com/liguodongiot/llm-action

定价模式🏷️完全免费

价格说明开源项目，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言HTML

技术栈/模型llm,llm-inference,llm-serving,llm-training,llmops

GitHub 星标★ 25262

上线时间2023-05-23 00:00:00

代码更新2026-10-14

仓库体积24.9 MB

本站数据更新2026-11-09

维护状态较活跃

收录时间2026-08-09

浏览次数4

项目介绍

llm-action 是一个面向大模型工程师和开发者的开源知识库与实战指南，系统梳理了大模型从训练、微调到推理部署的全链路技术原理与工程实践。项目以教程和代码示例为核心，覆盖大模型基础理论、分布式训练框架（如 DeepSpeed、Megatron）、参数高效微调（LoRA、QLoRA）、推理优化（量化、vLLM）、以及模型服务化部署等关键环节，帮助开发者理解大模型落地中的核心挑战并快速上手。其内容组织清晰，既有深入的原理解析，也有可直接运行的代码，旨在缩短从理论到工程应用的距离，解决大模型项目落地中技术选型难、实践门槛高的问题。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 25262

技术标签

llm llm-inference llm-serving llm-training llmops

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：入门约 5 分钟部署方式：本地安装 6 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

git（用于克隆仓库）
可阅读 Markdown 的编辑器或浏览器
如需按文档实践，准备 Linux 服务器与 NVIDIA A800/H800 或昇腾 910 等加速卡环境

安装与启动步骤

1克隆仓库

把 llm-action 完整下载到本地，仓库以文档和示例为主，体积较小。
```
git clone https://github.com/liguodongiot/llm-action.git
```
2进入项目目录

切换到克隆下来的目录，后续所有文档路径都相对该目录。
```
cd llm-action
```
3查看总目录

README 中的目录列出了训练、推理、压缩、测评、数据工程等章节导航。
```
cat README.md
```
4查看基础环境文档

README 给出 A800/H800 等服务器基础环境安装命令文档的位置，按卡型选择阅读。
```
cat docs/llm-base/a800-env-install.md
```
5查看 H800 环境文档

若使用 H800 加速卡，改看对应文档，安装命令以该文档内容为准。
```
cat docs/llm-base/h800-env-install.md
```
6查看昇腾环境文档

国产昇腾 910 卡的环境安装说明位于 llm_localization 目录下。
```
cat llm_localization/ascend910-env-install.md
```