clearml-serving

一键编排多模型推理服务，自动伸缩省运维

ClearML Serving 是 ClearML 生态中的模型服务编排与仓库解决方案，用于将训练好的机器学习模型部署为生产级推理服务。它解决的是模型从实验到上线过程中的标准化、可扩展性和运维复杂性问题。核心能力包括：支持多种推理框架（如 ONNX、TensorFlow、PyTorch 等），提供模型版本管理和服务版本控制，自动生成 REST API 端点，内置负载均衡和弹性伸缩，以及通过 ClearML 平台实现模型、服务和监控的统一管理。它特别适合需要将多个模型快速、可重复地部署到 Kubernetes 或 Docker 环境的团队，降低了模型服务的工程门槛。

开源 free 基础设施

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 170

维护状态低维护

是否开源是

定价模式 free

项目数据

分类基础设施

开发团队clearml

所属国家

官网地址https://clear.ml

GitHubhttps://github.com/clearml/clearml-serving

定价模式free

价格说明开源项目，Apache-2.0 许可证，可免费使用和部署。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai,clearml,deep-learning,devops,kubernetes,machine-learning,mlops,model-serving,serving,serving-ml,serving-pytorch-models,tensorflow-serving,triton,triton-inference-server

GitHub 星标★ 170

30天Star增速

HF 下载量

上线时间2021-04-12 00:00:00

最近更新2026-09-22 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数5

使用教程

核心亮点

原生集成 ClearML 实验管理，模型到服务链路无缝衔接
支持多框架模型（ONNX/TF/PyTorch），无需重写推理代码
内置 Kubernetes 部署和自动扩缩容，适合生产级弹性服务

不足之处

依赖 ClearML 平台，独立使用需额外搭建后端
文档/社区待观察，早期项目示例和最佳实践较少

适用场景

团队已用 ClearML 做实验管理，需快速将模型上线为 API 服务
需要同时管理多个模型版本并动态路由到不同推理服务
在 Kubernetes 集群中部署可弹性伸缩的模型推理服务

替代项目

Seldon Core、KServe、BentoML

项目介绍

clearml-serving 是基础设施领域的开源项目，由 clearml 开发，2021 年首次发布。

它收录于基础设施分类，该分类目前共有 1,132 个项目，GitHub 星标数为 170。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-22。Apache-2.0 许可证，可免费使用和部署。

它主要面向的使用场景是：团队已用ClearML做实验管理，需快速将模型上线为API服务。同类可对比的替代方案包括 Seldon Core、KServe、BentoML。

上一篇：seldon-core

下一篇：mlop