seldon-core

K8s 上大规模部署、监控和管理生产级 ML 模型

Seldon Core 是一个用于打包、部署、监控和管理生产环境中机器学习模型的开源 MLOps 框架。它解决了将训练好的模型（如 TensorFlow、PyTorch、Scikit-learn 等）快速、可扩展地部署为微服务的问题，并提供了完整的生命周期管理。核心能力包括：支持多种模型格式和自定义推理服务器，提供 A/B 测试、金丝雀发布、多臂老虎机等高级部署策略，内置监控和可观测性（如 Prometheus 指标、日志），并支持与 Kubernetes 生态（如 Istio、Knative）深度集成，实现自动扩缩容和流量管理。通过 Seldon Core，数据科学家和平台工程师可以统一管理大规模模型服务，降低运维复杂度，提升模型上线效率和稳定性。

开源 free 基础设施

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 4782

维护状态低维护

是否开源是

定价模式 free

项目数据

分类基础设施

开发团队SeldonIO

所属国家

官网地址https://www.seldon.io/solutions/core

GitHubhttps://github.com/SeldonIO/seldon-core

定价模式free

价格说明开源框架，本地部署，完全免费。

访问状态

是否开源是

开源协议NOASSERTION

主要语言Go

技术栈/模型aiops,deployment,kubernetes,machine-learning,machine-learning-operations,mlops,production-machine-learning,serving

GitHub 星标★ 4782

30天Star增速

HF 下载量

上线时间2017-12-20 00:00:00

最近更新2026-09-21 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

难度：高级约 30 分钟部署方式：云服务 5 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

一个可用的 Kubernetes 集群（README 明确 Seldon Core 2 运行在 Kubernetes 中）
可访问互联网，用于拉取镜像与查看官方文档
具备 kubectl 等 Kubernetes 基本运维能力（README 未列出具体版本要求）

安装与启动步骤

1阅读官方安装文档

README 把安装说明全部放在官方文档里，先打开 Installation 页面确认当前版本要求的 Kubernetes 版本和安装方式。
2准备 Kubernetes 集群

按文档准备一个可用的 K8s 集群（自建或任意云厂商均可，README 提到支持本地部署或任意云）。
3获取项目源码

克隆仓库以便查看示例与清单文件；README 本身未给出安装命令，安装仍需以官方文档为准。
```
git clone https://github.com/SeldonIO/seldon-core.git
```
4按文档安装 Core 2

严格按 Installation 文档给出的步骤在集群中安装 Seldon Core 2 组件，不要自行猜测命名空间或参数。
5部署模型与推理服务器

安装完成后参考 Servers、Models 章节，选择对应模型格式的推理服务器部署你的第一个模型。

如何确认成功

按官方文档完成安装后，确认 Kubernetes 集群中 Seldon Core 2 的相关组件已正常运行，即可进入 Models 章节部署模型验证。

常见问题

Q：必须要有 Kubernetes 吗？

A：是。README 明确说明 Seldon Core 2 是用于在 Kubernetes 中部署、管理和扩展 AI 系统的框架，没有 K8s 环境无法使用。

Q：具体安装命令在哪里？

A：README 未提供安装命令，全部安装步骤在官方文档 https://docs.seldon.ai/seldon-core-2/installation/installation ，请以该页面为准。

Q：支持哪些模型类型？

A：README 称支持多种模型类型，官方文档的 Servers 章节列出了可用推理服务器，可按模型框架选择对应服务器。

Q：可以用于商业用途吗？

A：README 提示商业用途请联系 Seldon，可访问官网 https://www.seldon.io/ 获取商业支持信息。

Q：和旧版 Seldon Core 有什么区别？

A：当前仓库主推 Seldon Core 2，文档地址为 docs.seldon.ai/seldon-core-2，请勿混用旧版文档中的安装方式。

注意事项

本教程基于 README 节选，README 未给出任何安装命令，实际安装必须以官方文档为准。
Seldon Core 2 依赖 Kubernetes，建议先具备集群与 kubectl 使用经验再动手。
功能涉及 Pipelines、Experiments、性能调优等，可分别查阅文档对应章节。
注意区分 Seldon Core 1 与 Core 2 的文档与安装方式，避免混用。

核心亮点

原生支持 Kubernetes，与 Istio、Knative 等无缝集成，部署策略丰富
支持多种主流 ML 框架和自定义模型服务器，灵活性高
内置监控和可观测性，提供 Prometheus 指标和日志，便于运维

不足之处

配置和上手门槛较高，需要熟悉 Kubernetes 和云原生概念
文档和社区活跃度相比同类项目有待提升

适用场景

企业级 ML 平台建设，统一管理多种模型服务
需要高级部署策略（如 A/B 测试、金丝雀发布）的在线推理场景
基于 Kubernetes 的微服务架构中集成模型推理

替代项目

KServe、BentoML、Ray Serve

项目介绍

seldon-core 是基础设施领域的开源项目，由 SeldonIO 开发，2017 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（4,782）位列前 9%，在基础设施分类的 1,132 个项目里位列前 14%。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-21。本地部署，完全免费。

它主要面向的使用场景是：企业级ML平台建设，统一管理多种模型服务。同类可对比的替代方案包括 KServe、BentoML、Ray Serve。

上一篇：darwin

下一篇：clearml-serving