generative-ai-sagemaker-cdk-demo
用CDK一键部署SageMaker上的生成式AI模型，省去手动配置。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 74
核心亮点
- 基础设施即代码，部署可重复、可版本控制，避免手动点击控制台
- 支持多种JumpStart模型，灵活切换不同生成式AI能力
- 自动处理IAM角色、VPC等底层配置，降低上手门槛
不足之处
- 文档/社区待观察
- 仅适用于AWS生态，绑定SageMaker和CDK
适用场景
- 快速为原型项目部署文本生成或图像生成模型API
- 在CI/CD流水线中自动化部署和更新AI模型端点
- 团队内统一管理多个AI模型端点，实现环境一致性
替代项目
sagemaker-huggingface-llm、amazon-sagemaker-examples、mlflow-sagemaker
同类项目推荐
llama_deploy
开源
把 LlamaIndex 智能体工作流一键部署成生产级微服务
Deploy your agentic worfklows to production
mixtral-offloading
开源
让 8x7B 大模型在低配电脑上跑起来
Run Mixtral-8x7B models in Colab or consumer desktops
aegea
开源
一条命令搞定AWS日常操作，告别繁琐控制台
Amazon Web Services Operator Interface
keda-gpu-scaler
开源
无需 Prometheus，让 K8s 上的 GPU 工作负载按真实使用量自动伸缩。
KEDA External gRPC Scaler for GPU workloads - native NVML metrics via DaemonSet, no ···
vLLM-metax
开源
让 vLLM 跑在沐曦 GPU 上，国产卡也能高吞吐推理
Community maintained hardware plugin for vLLM on MetaX GPU
openeverest
开源
在 K8s 上一键自动创建和管理多种数据库
OpenEverest is an open-source platform for automated database, storage and LLMs prov···
hermes-labyrinth
开源
给 Hermes Agent 装上行车记录仪，看清每一步决策路径
Read-only observability plugin for Hermes Agent: journeys, crossings, guideposts, an···
TokenHub
开源
统一管理企业 AI 调用，让每一次请求可控可追溯。
TokenHub gives enterprises a private gateway to unify AI model access and governance···
Star-Attention
开源
长序列推理提速，让大模型轻松处理超长文本。
Efficient LLM Inference over Long Sequences