AI-Infra-from-Zero-to-Hero

从论文到实战,一站式搞定AI系统学习

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 415 🐛 待处理 14 👀 关注 132
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 4460
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,完全免费,无付费版本。

项目预览

AI-Infra-from-Zero-to-Hero 项目界面预览图
图片来源:项目官网

项目数据

分类开源模型
开发团队HuaizhengZhang
定价模式🏷️完全免费
价格说明开源项目,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
技术栈/模型ai-infra,genai,large-language-models,llmsys,mlsys,model-serving,model-training
GitHub 星标★ 4460
上线时间2019-01-07 00:00:00
代码更新2025-07-25
仓库体积920 KB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数9

项目介绍

这是一个面向机器学习系统领域的精选资源合集,旨在帮助开发者从零开始系统学习AI基础设施。项目汇集了OSDI、NSDI、SIGCOMM、SoCC、MLSys等顶级学术会议的相关论文,以及Llama3、Mistral等主流大模型的技术实践,并配有视频教程。它解决了AI系统学习资料分散、缺乏体系的问题,核心能力在于提供结构化的知识路径,覆盖分布式训练、推理优化、模型部署等关键环节,帮助读者理解从论文到产业落地的完整链路。无论你是学生、研究人员还是工程师,都能从中找到从理论到实践的参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 4460

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 10 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 git(用于克隆仓库)
  • 可阅读 Markdown 的编辑器或浏览器
  • 可阅读 PDF 的工具(用于查看 mlsys-whitepaper.pdf)
  • 可选:能访问 YouTube / bilibili 的网络环境(观看视频教程)

安装与启动步骤

  1. 1克隆仓库到本地

    README 未提供安装脚本,本仓库是资料合集,第一步把仓库拉到本地即可。注意选择磁盘空间充足的位置。

    git clone https://github.com/HuaizhengZhang/AI-Infra-from-Zero-to-Hero.git
  2. 2进入仓库目录

    切换到克隆下来的目录,其中包含各分类的 Markdown 论文清单文件。

    cd AI-Infra-from-Zero-to-Hero
  3. 3先读白皮书

    README 明确标注 Whitepaper You Must Read,建议先通读该 PDF,建立 AI 系统的整体知识框架。

  4. 4按分类浏览论文

    README 按 ML/DL Infra、LLM Infra、领域专用 Infra 分类,逐个打开对应 md 文件即可查看论文与代码链接。

  5. 5配合视频教程学习

    README 在 Updates 中提供了 YouTube、bilibili、小红书三个视频教程入口,可边看边对照论文清单。

如何确认成功

克隆完成后,目录下能看到 training.md、inference.md、llm_training.md、llm_serving.md 等文件以及 paper/mlsys-whitepaper.pdf,即表示获取成功。

常见问题

Q:需要安装 Python 或其它运行环境吗?

A:不需要。README 中没有给出任何安装依赖的说明,本仓库是论文与资源索引,只用来阅读,不包含需要运行的代码。

Q:论文对应的代码在哪里?

A:README 说明“Link to the code if available is also present”,各分类 Markdown 文件中会在论文条目旁给出可用的代码链接。

Q:视频教程在哪里看?

A:README 的 Updates 部分提供了 YouTube、bilibili 和小红书三个链接,可直接点击观看。

Q:怎么向这个项目贡献内容?

A:README 表示欢迎使用其提供的 template 提交 pull request,项目已有维护团队负责跟进。

Q:有配套网站吗?

A:README 提到正在为该项目准备新网站 letsgoai.pro,可后续关注。

注意事项

  • 本项目是精选资源合集,README 未提供任何安装命令、端口或配置文件,因此不存在真正意义上的“部署”步骤。
  • 内容以 Markdown 清单和 PDF 白皮书为主,学习时建议先看白皮书再看分类论文。
  • 部分外链(YouTube 等)在国内访问可能受限,可改用 README 中给出的 bilibili 入口。

核心亮点

  • 精选顶级会议论文,紧跟学术前沿
  • 结合Llama3等真实模型案例,贴近产业实践
  • 提供视频教程,降低学习门槛

不足之处

  • 资源列表为主,缺乏深度解读和代码示例
  • 文档/社区待观察

适用场景

  • 系统学习AI基础设施知识体系
  • 查阅大模型训练与推理的工程实践
  • 作为课程或团队培训的参考资料

替代项目

awesome-machine-learning、ml-system-design-patterns、AI-System

上一篇:GUNDAM

下一篇:Star-Attention

同类项目推荐

MoE-Infinity 开源

把 MoE 大模型塞进小显存,推理快还省钱

PyTorch library for cost-effective, fast and easy serving of MoE models.

★ 382 2026-08-09
voidllm 开源

自托管 AI 网关,统一管理多模型 API,保护提示词隐私。

Privacy-first LLM proxy and AI gateway - load balancing, multi-provider routing, API···

★ 147 2026-08-09
traceroot 开源

给 AI Agent 装上黑匣子,看清每一步再持续调优

traceroot: the open-source platform that continuously improves your ai agents.

★ 1369 2026-09-22
openai 开源

兼容 OpenAI 调用方式,请求时自动完成链上按次付费

Drop-in OpenAI Typescript client with transparent x402 payment support.

★ 154 2026-10-26
subnet-2 开源

给去中心化 AI 推理加上可验证证明

Verifiable inference on Bittensor

★ 2463 2026-11-08
prime 开源

一个 CLI 加 SDK,统一管 GPU、沙箱和分布式训练

Official CLI and Python SDK for Prime Intellect - access GPU compute, remote sandbox···

★ 347 2026-10-31
AI-in-a-Box 开源

微软官方加速器,快速搭建 Azure AI 应用

AI-in-a-Box leverages the expertise of Microsoft across the globe to develop and pro···

★ 601 2026-08-09
ZETIC_Melange_apps 开源

在手机上用NPU跑AI,又快又省电

NPU powered On-device AI Mobile applications using Melange

★ 69 2026-08-09