AI-Infra-from-Zero-to-Hero

从论文到实战,一站式搞定AI系统学习

这是一个面向机器学习系统领域的精选资源合集,旨在帮助开发者从零开始系统学习AI基础设施。项目汇集了OSDI、NSDI、SIGCOMM、SoCC、MLSys等顶级学术会议的相关论文,以及Llama3、Mistral等主流大模型的技术实践,并配有视频教程。它解决了AI系统学习资料分散、缺乏体系的问题,核心能力在于提供结构化的知识路径,覆盖分布式训练、推理优化、模型部署等关键环节,帮助读者理解从论文到产业落地的完整链路。无论你是学生、研究人员还是工程师,都能从中找到从理论到实践的参考。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 4393
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队HuaizhengZhang
所属国家
定价模式free
价格说明开源项目,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言
技术栈/模型ai-infra,genai,large-language-models,llmsys,mlsys,model-serving,model-training
GitHub 星标★ 4393
30天Star增速
HF 下载量
上线时间2019-01-07 00:00:00
最近更新2026-09-22 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数9

使用教程

难度:入门 约 10 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 git(用于克隆仓库)
  • 可阅读 Markdown 的编辑器或浏览器
  • 可阅读 PDF 的工具(用于查看 mlsys-whitepaper.pdf)
  • 可选:能访问 YouTube / bilibili 的网络环境(观看视频教程)

安装与启动步骤

  1. 1克隆仓库到本地

    README 未提供安装脚本,本仓库是资料合集,第一步把仓库拉到本地即可。注意选择磁盘空间充足的位置。

    git clone https://github.com/HuaizhengZhang/AI-Infra-from-Zero-to-Hero.git
  2. 2进入仓库目录

    切换到克隆下来的目录,其中包含各分类的 Markdown 论文清单文件。

    cd AI-Infra-from-Zero-to-Hero
  3. 3先读白皮书

    README 明确标注 Whitepaper You Must Read,建议先通读该 PDF,建立 AI 系统的整体知识框架。

  4. 4按分类浏览论文

    README 按 ML/DL Infra、LLM Infra、领域专用 Infra 分类,逐个打开对应 md 文件即可查看论文与代码链接。

  5. 5配合视频教程学习

    README 在 Updates 中提供了 YouTube、bilibili、小红书三个视频教程入口,可边看边对照论文清单。

如何确认成功

克隆完成后,目录下能看到 training.md、inference.md、llm_training.md、llm_serving.md 等文件以及 paper/mlsys-whitepaper.pdf,即表示获取成功。

常见问题

Q:需要安装 Python 或其它运行环境吗?

A:不需要。README 中没有给出任何安装依赖的说明,本仓库是论文与资源索引,只用来阅读,不包含需要运行的代码。

Q:论文对应的代码在哪里?

A:README 说明“Link to the code if available is also present”,各分类 Markdown 文件中会在论文条目旁给出可用的代码链接。

Q:视频教程在哪里看?

A:README 的 Updates 部分提供了 YouTube、bilibili 和小红书三个链接,可直接点击观看。

Q:怎么向这个项目贡献内容?

A:README 表示欢迎使用其提供的 template 提交 pull request,项目已有维护团队负责跟进。

Q:有配套网站吗?

A:README 提到正在为该项目准备新网站 letsgoai.pro,可后续关注。

注意事项

  • 本项目是精选资源合集,README 未提供任何安装命令、端口或配置文件,因此不存在真正意义上的“部署”步骤。
  • 内容以 Markdown 清单和 PDF 白皮书为主,学习时建议先看白皮书再看分类论文。
  • 部分外链(YouTube 等)在国内访问可能受限,可改用 README 中给出的 bilibili 入口。

核心亮点

  • 精选顶级会议论文,紧跟学术前沿
  • 结合Llama3等真实模型案例,贴近产业实践
  • 提供视频教程,降低学习门槛

不足之处

  • 资源列表为主,缺乏深度解读和代码示例
  • 文档/社区待观察

适用场景

  • 系统学习AI基础设施知识体系
  • 查阅大模型训练与推理的工程实践
  • 作为课程或团队培训的参考资料

替代项目

awesome-machine-learning、ml-system-design-patterns、AI-System

项目介绍

AI-Infra-from-Zero-to-Hero 是基础设施领域的开源项目,由 HuaizhengZhang 开发,2019 年首次发布。

在全站 13,109 个收录项目中,它的 GitHub 星标数(4,393)位列前 10%,在基础设施分类的 1,133 个项目里位列前 15%。

近 41 天,它的 GitHub 星标从 4,272 增加到 4,393,净增 121。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。完全免费,无付费版本。

它主要面向的使用场景是:系统学习AI基础设施知识体系。同类可对比的替代方案包括 awesome-machine-learning、ml-system-design-patterns、AI-System。

上一篇:GUNDAM

下一篇:Star-Attention

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

[DEPRECATED / UNMAINTAINED] Multi-account gateway. No longer maintained; fork it and···

★ 303 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09