ai-system-design

从会调API到会搭AI系统,一步步教你设计LLM应用架构

开源 🏷️定价信息待确认 ✅ 目前可打开 学习教育 🍴 复刻 135 👀 关注 2
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 875
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

ai-system-design 项目界面预览图
图片来源:项目官网

项目数据

分类学习教育
开发团队amitshekhariitbhu
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言Markdown
技术栈/模型ai,ai-agents,ai-engineering,ai-system,ai-system-design,ai-systems,ai-systems-design,llm,system-design,system-design-interview
GitHub 星标★ 875
上线时间2026-09-25 00:00:00
代码更新2026-11-15
仓库体积62 KB
本站数据更新2026-11-15
维护状态活跃
收录时间2026-10-02
浏览次数2

项目介绍

ai-system-design 是一个面向 AI 工程实践的开源学习资料库,用 Markdown 系统讲解如何从零设计基于大语言模型(LLM)、检索增强生成(RAG)和 AI Agent 的完整系统。它解决的是当前 AI 开发者普遍存在的“会调 API 但不会做架构”问题:很多人能跑通 demo,却说不清一个生产级 AI 应用该如何拆分模块、如何选型、如何做数据流与评估。项目按步骤组织内容,覆盖 LLM 应用分层、RAG 检索链路、Agent 规划与工具调用、系统可观测性与扩展性等主题,把传统系统设计方法论迁移到 AI 场景。适合工程师、架构师和准备 AI 系统设计面试的人作为路线图式参考,也可作为团队内部技术分享的素材。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-02 · 当前星标 ★ 875

使用教程

难度:入门 约 20 分钟 部署方式:文档阅读 4 步

环境要求

  • git

安装与启动步骤

  1. 1取回指南

    AI 系统的整体设计读物。

    git clone https://github.com/amitshekhariitbhu/ai-system-design.git
    cd ai-system-design
  2. 2看目录

    推理、缓存、向量库、网关、护栏、评测各成章。

    grep -n '^#' README.md | head -40
  3. 3挑缺口读

    先读你系统里最薄的那一层。

    # 打开对应章节
  4. 4画自己的图

    读完把自家架构画一遍,标出单点。

    # 用白板或 excalidraw 画数据流

如何确认成功

能画出含推理、缓存与评测三条链路的架构图。

注意事项

  • 偏架构与取舍,不含具体代码。
  • 成本模型那部分对预算评审很有用。
  • 评测与护栏最容易被跳过,建议重点读。

核心亮点

  • 以 Markdown 组织成体系的学习路径,按 LLM、RAG、Agent 分模块递进,适合按顺序自学
  • 聚焦系统设计而非单点工具,覆盖架构分层、数据流、评估与扩展性等工程视角
  • 主题贴合当前招聘与面试热点,可作为 AI 系统设计面试的复习提纲

不足之处

  • 内容以文档为主,缺少可运行的示例代码和完整项目脚手架
  • 早期项目,章节深度和更新频率有待观察

适用场景

  • AI 工程师准备系统设计面试时按章节复习
  • 团队内部做 LLM 应用架构技术分享的参考材料
  • 开发者从 demo 转向生产级 RAG/Agent 系统时梳理设计思路

替代项目

system-design-primer、genai-for-beginners

上一篇:coursemate-ai

下一篇:ai-interview-guide

同类项目推荐

notebooks 开源

跟着最新视觉模型教程,边看边跑代码,快速上手实战

A collection of tutorials on state-of-the-art computer vision models and techniques.···

★ 9749 2026-08-10
time-to-first-token 开源

每天30分钟,10周吃透LLM推理优化

A 10-week, 30-minutes-a-day roadmap for LLM inference serving and optimization. vLLM···

★ 1187 2026-08-09
qxresearch-event-1 开源

50+个10行代码的Python小应用,快速上手实战

Python hands on tutorial with 50+ Python Application (10 lines of code) By @xiaowuc2

★ 3041 2026-08-09
LLM_book 开源

一份教程,从原理到实战,系统掌握大模型开发

非常详细的大模型LLM的学习教程与笔记

★ 191 2026-08-09
iq-series 开源

跟着视频和代码,快速上手微软企业智能平台

The IQ Series is a hands-on learning experience for Microsoft IQ: Microsoft's unifie···

★ 412 2026-08-09
tglcourse 开源

系统学习生成式建模,从理论到代码实战

The Generative Landscape - a course on generative modelling (currently unfinished). ···

★ 151 2026-08-09