项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1847
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 已安装 Python 与 pip(示例代码使用 python3.11)
- 已注册 Beam 账号(beam.cloud)
- 网络可访问 beam.cloud 与平台控制台
安装与启动步骤
-
1安装客户端库
用 pip 安装官方 Python 客户端 beam-client,这是与 Beam 平台交互的唯一入口。
pip install beam-client -
2注册并完成引导
先在 beam.cloud 创建账号,再按官方 Getting Started Guide 完成平台初始引导配置。
-
3编写推理端点
新建 app.py,用 @endpoint 装饰器定义自动扩缩容的推理端点,并按需设置 GPU、CPU、内存。
from beam import Image, endpoint from beam import QueueDepthAutoscaler @endpoint( image=Image(python_version="python3.11"), gpu="A10G", cpu=2, memory="16Gi", autoscaler=QueueDepthAutoscaler(max_containers=5, tasks_per_container=30) ) def handler(): return {"label": "cat", "confidence": 0.97} -
4编写后台任务
用 @task_queue 装饰器定义异步任务,在 __main__ 中直接调用 put() 本地触发一次任务。
from beam import Image, TaskPolicy, schema, task_queue class Input(schema.Schema): image_url = schema.String() @task_queue( name="image-processor", image=Image(python_version="python3.11"), cpu=1, memory=1024, inputs=Input, task_policy=TaskPolicy(max_retries=3), ) def my_background_task(input: Input, *, context): image_url = input.image_url print(f"Processing image: {image_url}") return {"image_url": image_url} if __name__ == "__main__": my_background_task.put(image_url="https://example.com/image.jpg") -
5部署到云端
用 beam deploy 命令把任务函数以指定名称部署为带版本的可调用端点。
beam deploy app.py:my_background_task --name image-processor
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
image | 是 | 指定运行时容器镜像与 Python 版本 | Image(python_version="python3.11") |
gpu | 否 | 端点使用的 GPU 型号 | A10G |
cpu | 否 | 为容器分配的 CPU 核数 | 2 |
memory | 否 | 为容器分配的内存大小 | 16Gi |
autoscaler | 否 | 按队列深度自动扩缩容的容器上限与每容器任务数 | QueueDepthAutoscaler(max_containers=5, tasks_per_container=3 |
task_policy | 否 | 异步任务策略,例如失败重试次数 | TaskPolicy(max_retries=3) |
如何确认成功
本地执行脚本可看到后台任务打印的图片处理日志;执行部署命令后在 Beam 控制台可查到该端点。
常见问题
Q:必须注册 Beam 账号吗?
A:按 Quickstart 说明需要先在 beam.cloud 创建账号,并跟随官方 Getting Started Guide 完成引导后才能使用平台能力。
Q:可以自己私有化部署 Beta9 吗?
A:README 说明 Beta9 是驱动 Beam 云平台的开源引擎,可免费自托管;但 README 未给出自托管步骤,需查阅 docs.beam.cloud。
Q:支持哪些 GPU?
A:README 提到可在官方云上使用 4090s、H100s 等型号,也可以自带 GPU;示例代码中使用的是 A10G。
Q:后台任务怎么触发?
A:在 __main__ 中直接调用 my_background_task.put(...) 即可在未部署的情况下触发任务,也可部署为端点后调用。
注意事项
- README 未提供自托管(Self-Hosting)的具体安装步骤,如需自建请以 docs.beam.cloud 官方文档为准。
- 示例中的 gpu、cpu、memory、autoscaler 参数只是演示值,请按实际模型的资源需求调整。
- 项目采用 AGPL-3.0 许可,商用前请确认许可条款。
- 使用中遇到问题可加入官方 Slack 社区(README 中提供了邀请链接)。
核心亮点
- 毫秒级冷启动,显著优于传统容器方案
- 沙箱隔离兼顾安全性与轻量性
- 同时支持同步推理和异步任务,场景覆盖广
不足之处
- 项目仍处于早期,生态和文档待完善
- 与主流云厂商的深度集成尚需验证
适用场景
- AI 模型在线推理服务,要求低延迟
- 数据科学实验环境,需要快速创建隔离环境
- 批量数据处理和模型微调等后台任务
替代项目
RunPod、Modal、Replicate
同类项目推荐
extractous
开源
一条命令提取所有文档内容,快如闪电
Fast and efficient unstructured data extraction. Written in Rust with bindings for m···
ComputeLibrary
开源
Arm 平台上的 CV/ML 算子加速库,榨干 CPU 与 GPU 性能。
The Compute Library is a set of computer vision and machine learning functions optim···
sie
开源
一个服务搞定所有模型,让智能体部署不再头疼
Open-source inference server and production cluster for all the models your agent ne···
privacy-filter
开源
给 LLM 请求装个隐私过滤器,毫秒级脱敏,防数据泄露
LLM privacy gateway in Go — millisecond-latency PII and secret redaction. Used in p···
ReadyLLM
开源
图形界面一键部署本地大模型,还能顺手跑图生视频
Deploy, monitor, and tune LLM through a visual interface — plus image / video gener···
awesome-ai-gateway
开源
100+ AI 网关选型指南,成本安全合规一网打尽
⚡ Awesome AI Gateway — pick an AI gateway from 240+ (LiteLLM, OpenRouter, Portkey,···
ChatGPTReversed
开源
免费逆向 ChatGPT 网页版,一键转成标准 API 调用
Free ChatGPT API reversed and simplified
aio2024-mlops
开源
跟着Notebook动手玩转MLOps全流程工具链
This project serves as a hands-on introduction to essential MLOps tools
are-you-a-cat
开源
用ZenML搭建可复现的猫脸识别流水线,快速上手MLOps
An MLOps Project for the ZenML Month of MLOps Competition
