modal-examples

一键跑通云端 GPU 任务,从示例到生产部署

开源 🏷️定价信息待确认 ✅ 目前可打开 图像生成 🍴 复刻 321 🐛 待处理 3 👀 关注 17
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1290
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

modal-examples 项目界面预览图
图片来源:项目官网

项目数据

分类图像生成
开发团队modal-labs
定价模式🏷️定价信息待确认
价格说明官网为 Modal 文档站,示例代码展示平台能力,具体定价需查看 Modal 服务,此处信息不足。
访问状态✅ 目前可打开
是否开源是
开源协议MIT
主要语言Python
技术栈/模型cloud,distributed,gpu,machine-learning,modal,python,pytorch,serverless,stable-diffusion,web
GitHub 星标★ 1290
上线时间2022-08-24 00:00:00
代码更新2026-11-07
仓库体积92.5 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

modal-examples 是 Modal 官方维护的示例库,集中展示了如何在 Modal 无服务器云平台上构建和运行各类 AI 与机器学习程序。它解决了开发者从零开始编写分布式 GPU 任务、部署推理服务时面临的配置复杂、基础设施管理繁琐等问题。项目核心能力包括:提供大量可直接运行的 Python 脚本,覆盖 Stable Diffusion 图像生成、Llama 等大语言模型推理、批量数据处理、Web 服务部署等场景;所有示例均基于 Modal 的 Serverless 架构,支持自动弹性伸缩、按需付费,无需管理服务器;同时展示了如何将 PyTorch 模型与云 GPU 资源高效结合,实现快速迭代和低成本运行。通过阅读和运行这些示例,开发者可以快速上手 Modal,并将现有机器学习工作流迁移到云端。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1290

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:云服务 7 步

环境要求

  • Python 3.11(示例持续针对该版本测试)
  • 一个 modal.com 免费账号
  • 本地已安装 modal 包并配置好 API key
  • 可联网(脚本需与 Modal 云端通信)

安装与启动步骤

  1. 1注册 Modal 账号

    先到 modal.com 注册免费账号,并按官网 setup 指引获取 API key,后续本地运行示例时要靠它连接云端。

  2. 2安装 modal 包

    在本地 Python 环境安装 README 中提到的 modal 包;建议在虚拟环境里装,避免污染系统环境。

    pip install modal
  3. 3设置 API key

    按 modal.com 官网 setup 说明把你的 API key 配置到本地,配置完成后本地命令才能提交任务到云端。

  4. 4获取示例代码

    把 modal-examples 仓库克隆到本地,仓库内按类别分文件夹存放各示例脚本。

    git clone https://github.com/modal-labs/modal-examples.git
  5. 5进入仓库目录

    切换到克隆下来的仓库根目录,后续 modal run 命令都基于仓库内的相对路径执行。

    cd modal-examples
  6. 6运行入门示例

    以 hello_world 为例验证环境;脚本在本地执行,实际会在 Modal 云端按需启动无服务器容器。

    modal run 01_getting_started/hello_world.py
  7. 7浏览其他示例

    01_getting_started 到 14_clusters 是循序渐进的教程,misc 目录是未分类的杂项示例,可按需试跑。

关键配置

配置项必填说明示例
API Key是Modal 账号的 API 密钥,按官网 setup 说明安装并设置后可连接云端在 modal.com 账号设置中获取

如何确认成功

执行 modal run 后,终端能收到来自 Modal 云端返回的运行日志与结果,说明已成功连接并跑通示例。

常见问题

Q:本地需要 GPU 吗?

A:不需要。脚本在你本机执行,但会与 Modal 通信,在云端按需启动带 GPU 的无服务器容器完成任务。

Q:必须用 Python 3.11 吗?

A:README 说明示例持续针对 Python 3.11 做正确性测试,为减少兼容问题建议使用 3.11。

Q:示例在哪里运行?

A:在本地终端用 modal run 触发,实际计算发生在 Modal 云端容器中,无需自己管理服务器。

Q:该从哪个示例开始?

A:建议从 01_getting_started 目录起步,按编号 01 到 14 的顺序学习 Modal 的核心概念。

Q:运行示例会收费吗?

A:README 只说明可以注册免费账号,具体计费与额度请以 modal.com 官方说明为准。

注意事项

  • 示例脚本在本地执行,但真正运行在 Modal 云端,会产生网络通信。
  • 除 01~14 的分类目录外,misc/ 目录存放未分类的杂项示例。
  • 项目采用 MIT 许可证。

核心亮点

  • 示例覆盖 Stable Diffusion、LLM 等热门 AI 场景,直接可运行
  • 展示 Serverless GPU 最佳实践,无需自建集群
  • 代码简洁,清晰演示 Modal API 核心用法

不足之处

  • 依赖 Modal 专有平台,迁移到其他云服务需重写
  • 文档/社区待观察

适用场景

  • 快速原型验证:在云上测试新模型效果
  • 部署图像生成或 LLM 推理 API 服务
  • 学习 Serverless GPU 架构与开发模式

替代项目

runpod-examples、beam-examples、replicate-examples

上一篇:stable-fast

下一篇:truss

同类项目推荐

lilypad 开源

用区块链调度全球闲置 GPU,跑 AI 任务更便宜透明

Run AI workloads easily in a decentralized GPU network. https://www.youtube.com/wat···

★ 93 2026-08-09
ds4 开源

在本地显卡上直接跑 DeepSeek 4,数据不出机器

DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm

★ 24284 2026-11-08
onediff 开源

一键加速扩散模型,生成速度提升数倍,画质不变

OneDiff: An out-of-the-box acceleration library for diffusion models.

★ 1962 2026-08-09
datapizza-ai 开源

快速搭建可靠生成式 AI 应用,省去基础设施烦恼。

Build reliable Gen AI solutions without overhead

★ 2244 2026-08-09
qzcli_tool 开源

命令行管理启智AI任务,资源查询、提交、看日志一步到位,还能接入agent。

启智平台任务管理 CLI:资源查询、任务提交、日志查看和 MCP/agent workflow

★ 146 2026-08-09
Stable-Diffusion-WSL2-Docker 开源

Windows用户一键搞定Stable Diffusion,免配置直接出图

One-click install for StabilityAI's Stable-Diffusion with AUTOMATIC1111's webui

★ 113 2026-08-09
TurboDiffusion 开源

出片快上百倍,画质依然在线

TurboDiffusion: 100–200× Acceleration for Video Diffusion Models

★ 3859 2026-08-09
ComfyUI-Windows-Portable 开源

解压即用的 ComfyUI 整合包,省去配置烦恼

ComfyUI standalone pack with 40+ custom nodes. | ComfyUI 大号整合包,预装大量自定义节···

★ 623 2026-08-09
ort 开源

用 Rust 跑 ONNX 模型,推理训练一把梭

Fast ML inference & training for ONNX models in Rust

★ 2610 2026-08-10