modal-examples

一键跑通云端 GPU 任务,从示例到生产部署

modal-examples 是 Modal 官方维护的示例库,集中展示了如何在 Modal 无服务器云平台上构建和运行各类 AI 与机器学习程序。它解决了开发者从零开始编写分布式 GPU 任务、部署推理服务时面临的配置复杂、基础设施管理繁琐等问题。项目核心能力包括:提供大量可直接运行的 Python 脚本,覆盖 Stable Diffusion 图像生成、Llama 等大语言模型推理、批量数据处理、Web 服务部署等场景;所有示例均基于 Modal 的 Serverless 架构,支持自动弹性伸缩、按需付费,无需管理服务器;同时展示了如何将 PyTorch 模型与云 GPU 资源高效结合,实现快速迭代和低成本运行。通过阅读和运行这些示例,开发者可以快速上手 Modal,并将现有机器学习工作流迁移到云端。

开源 unknown 图像生成
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1270
维护状态 活跃
是否开源
定价模式 unknown

项目数据

分类图像生成
开发团队modal-labs
所属国家
定价模式unknown
价格说明官网为 Modal 文档站,示例代码展示平台能力,具体定价需查看 Modal 服务,此处信息不足。
访问状态
是否开源
开源协议MIT
主要语言Python
技术栈/模型cloud,distributed,gpu,machine-learning,modal,python,pytorch,serverless,stable-diffusion,web
GitHub 星标★ 1270
30天Star增速
HF 下载量
上线时间2022-08-24 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:入门 约 10 分钟 部署方式:云服务 7 步

环境要求

  • Python 3.11(示例持续针对该版本测试)
  • 一个 modal.com 免费账号
  • 本地已安装 modal 包并配置好 API key
  • 可联网(脚本需与 Modal 云端通信)

安装与启动步骤

  1. 1注册 Modal 账号

    先到 modal.com 注册免费账号,并按官网 setup 指引获取 API key,后续本地运行示例时要靠它连接云端。

  2. 2安装 modal 包

    在本地 Python 环境安装 README 中提到的 modal 包;建议在虚拟环境里装,避免污染系统环境。

    pip install modal
  3. 3设置 API key

    按 modal.com 官网 setup 说明把你的 API key 配置到本地,配置完成后本地命令才能提交任务到云端。

  4. 4获取示例代码

    把 modal-examples 仓库克隆到本地,仓库内按类别分文件夹存放各示例脚本。

    git clone https://github.com/modal-labs/modal-examples.git
  5. 5进入仓库目录

    切换到克隆下来的仓库根目录,后续 modal run 命令都基于仓库内的相对路径执行。

    cd modal-examples
  6. 6运行入门示例

    以 hello_world 为例验证环境;脚本在本地执行,实际会在 Modal 云端按需启动无服务器容器。

    modal run 01_getting_started/hello_world.py
  7. 7浏览其他示例

    01_getting_started 到 14_clusters 是循序渐进的教程,misc 目录是未分类的杂项示例,可按需试跑。

关键配置

配置项必填说明示例
API KeyModal 账号的 API 密钥,按官网 setup 说明安装并设置后可连接云端在 modal.com 账号设置中获取

如何确认成功

执行 modal run 后,终端能收到来自 Modal 云端返回的运行日志与结果,说明已成功连接并跑通示例。

常见问题

Q:本地需要 GPU 吗?

A:不需要。脚本在你本机执行,但会与 Modal 通信,在云端按需启动带 GPU 的无服务器容器完成任务。

Q:必须用 Python 3.11 吗?

A:README 说明示例持续针对 Python 3.11 做正确性测试,为减少兼容问题建议使用 3.11。

Q:示例在哪里运行?

A:在本地终端用 modal run 触发,实际计算发生在 Modal 云端容器中,无需自己管理服务器。

Q:该从哪个示例开始?

A:建议从 01_getting_started 目录起步,按编号 01 到 14 的顺序学习 Modal 的核心概念。

Q:运行示例会收费吗?

A:README 只说明可以注册免费账号,具体计费与额度请以 modal.com 官方说明为准。

注意事项

  • 示例脚本在本地执行,但真正运行在 Modal 云端,会产生网络通信。
  • 除 01~14 的分类目录外,misc/ 目录存放未分类的杂项示例。
  • 项目采用 MIT 许可证。

核心亮点

  • 示例覆盖 Stable Diffusion、LLM 等热门 AI 场景,直接可运行
  • 展示 Serverless GPU 最佳实践,无需自建集群
  • 代码简洁,清晰演示 Modal API 核心用法

不足之处

  • 依赖 Modal 专有平台,迁移到其他云服务需重写
  • 文档/社区待观察

适用场景

  • 快速原型验证:在云上测试新模型效果
  • 部署图像生成或 LLM 推理 API 服务
  • 学习 Serverless GPU 架构与开发模式

替代项目

runpod-examples、beam-examples、replicate-examples

项目介绍

modal-examples 是基础设施领域的开源项目,由 modal-labs 开发,2022 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(1,270)位列前 30%,在基础设施分类中处于中上游。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。官网为 Modal 文档站,示例代码展示平台能力,具体定价需查看 Modal 服务,此处信息不足。从国内网络环境看,可直接访问。

它主要面向的使用场景是:快速原型验证:在云上测试新模型效果。同类可对比的替代方案包括 runpod-examples、beam-examples、replicate-examples。

上一篇:stable-fast

下一篇:truss

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09