Yatai

在 Kubernetes 上轻松规模化部署和运维机器学习模型

开源 🏷️定价信息待确认 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 75 🐛 待处理 34 👀 关注 15 ⚠️ 作者已归档（停止维护）
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 839
维护状态 低维护
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

Yatai 项目界面预览图
图片来源：项目官网

项目数据

分类基础设施
开发团队bentoml
官网地址https://bentoml.com
GitHubhttps://github.com/bentoml/Yatai
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议NOASSERTION
主要语言TypeScript
技术栈/模型bentoml,k8s,kubernetes,machine-learning,mlops,model-deployment,model-serving
GitHub 星标★ 839
上线时间2021-07-30 00:00:00
代码更新2026-05-30
仓库体积14.1 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

Yatai 是一个基于 Kubernetes 的模型部署平台，旨在帮助机器学习团队将训练好的模型规模化地部署到生产环境。它解决了模型从实验到上线过程中面临的部署复杂、资源管理困难、版本迭代频繁等问题。核心能力包括：提供统一的模型部署接口，支持多种推理框架（如 TensorFlow、PyTorch、ONNX 等），自动管理 Kubernetes 资源（如自动扩缩容、负载均衡），内置模型版本管理和灰度发布，以及提供监控和日志收集功能。通过 Yatai，数据科学家和运维人员可以更高效地协作，将模型快速、稳定地对外提供服务。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 839

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：进阶 约 35 分钟 部署方式：云服务部署 4 步

环境要求

  • Kubernetes 集群
  • kubectl
  • Helm

安装与启动步骤

  1. 1一键安装

    官方脚本在 K8s 集群里装 Yatai。

    bash <(curl -s "https://raw.githubusercontent.com/bentoml/yatai/main/scripts/quick-install-yatai.sh")

  2. 2做第一个 Bento

    从 BentoML 示例项目开始，别自己造。

    git clone https://github.com/bentoml/bentoml.git && cd ./examples/quickstart
pip install -r ./requirements.txt
python train.py

  3. 3打包

    bentoml build 产出可部署单元。

    bentoml build

  4. 4上线

    装 image builder 与 deployment 组件。

    bash <(curl -s "https://raw.githubusercontent.com/bentoml/yatai-image-builder/main/scripts/quick-install-yatai-image-builder.sh")

如何确认成功

Yatai 控制台里能看到 Bento 并成功部署一个 Deployment。

注意事项

  • 1.2 版本仍在建设中，生产前确认版本状态。
  • 镜像构建与部署是两个独立组件，缺一个流程断。
  • 集群要能拉公网镜像或配私有仓库。

核心亮点

  • 深度集成 Kubernetes，原生支持自动扩缩容、滚动更新，运维省心
  • 支持多框架模型（TensorFlow/PyTorch/ONNX），统一部署入口，降低学习成本
  • 内置模型版本管理与灰度发布，便于安全迭代和回滚

不足之处

  • 项目早期，文档和社区生态尚不完善，上手可能需要自己摸索
  • 功能相比成熟平台（如 Seldon Core）可能不够全面，高级特性待补充

适用场景

  • 企业内部需要将多个模型统一部署到 Kubernetes 集群
  • 模型迭代频繁，需要灰度发布和快速回滚的场景
  • 希望利用 Kubernetes 弹性能力应对推理流量波动的场景

替代项目

Seldon Core、KServe、BentoML

上一篇：mlops-v2

下一篇：haupt

同类项目推荐

prime 开源

一个 CLI 加 SDK，统一管 GPU、沙箱和分布式训练

Official CLI and Python SDK for Prime Intellect - access GPU compute, remote sandbox···

★ 346 2026-10-31
kedro 开源

数据管道按工程规范搭，实验转生产不返工

Kedro is a toolbox for production-ready data science. It uses software engineering b···

★ 11047 2026-08-09
bella-openapi 开源

一个网关搞定多种AI能力，还带计费和限流

Bella OpenAPI是一个提供了丰富的AI调用能力的API网关，可类比openrouter，与之不同的是除···

★ 241 2026-08-09
codex-token-skills 开源

为 Codex CLI 省 60-80% token 成本，用前缀缓存优化

⚡ Cut 60-80% token cost for DeepSeek V4 Pro on Codex CLI. token-saver + memory skil···

★ 117 2026-08-09
materialize 开源

用 SQL 建秒级实时视图，应用和 AI 直接查

The live data layer for apps and AI agents. Create up-to-the-second views into your ···

★ 6397 2026-10-01
comfyui-model-linker 开源

一键补全 ComfyUI 缺失模型，自动匹配下载，告别报错。

Relink missing models in ComfyUI workflows with fuzzy matching, and download them fr···

★ 72 2026-08-09
instill-core 开源

拖拽搭建 AI 流水线，从数据到模型一键编排

Instill Core is a full-stack AI infrastructure tool for data, model and pipeline orc···

★ 2321 2026-08-09
metaflow 开源

Netflix 同款流水线玩法，从实验到上线一路顺畅

Build, Manage and Deploy AI/ML Systems

★ 10341 2026-08-09