merlin 是基础设施领域的开源项目，由 caraml-dev 开发，2020 年首次发布。
它收录于基础设施分类，该分类目前共有 1,132 个项目，GitHub 星标数为 183。
项目仍在小幅维护中，最近一次代码更新于 2026-07-19。Apache-2.0许可证，可免费使用和部署。
它主要面向的使用场景是：团队已有Kubernetes集群，需要标准化模型部署流程。同类可对比的替代方案包括 Kubeflow、Seldon Core、BentoML。
merlin
在 Kubernetes 上轻松管理、部署和上线 ML 模型，省心省力。
Merlin 是一个面向 Kubernetes 的机器学习模型管理、部署和服务平台，旨在简化 ML 模型从训练到生产的全流程。它解决了在 Kubernetes 环境中模型版本管理、部署、扩展和监控的复杂性，提供统一的模型仓库、自动化的部署流水线、弹性伸缩的服务端点以及可观测性集成。核心能力包括模型版本控制、多模型服务、A/B 测试、金丝雀发布、自动扩缩容以及与常用 ML 工具链的集成。通过声明式配置和 Kubernetes 原生 API，用户能快速将模型上线为高可用的在线服务，并支持批处理预测。项目使用 Go 开发，适合已有 Kubernetes 基础设施的团队。
开源
free
基础设施
GitHub 星标
★ 183
维护状态
维护中
是否开源
是
定价模式
free
项目数据
分类基础设施
开发团队caraml-dev
所属国家
定价模式free
价格说明开源项目，Apache-2.0许可证，可免费使用和部署。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Go
技术栈/模型machine-learning,mlops
GitHub 星标★ 183
30天Star增速
HF 下载量
上线时间2020-09-28 00:00:00
最近更新2026-07-19 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2
使用教程
核心亮点
- 原生集成 Kubernetes，利用其弹性伸缩和资源管理能力
- 提供模型版本管理和多模型服务，便于迭代和对比
- 支持金丝雀发布和 A/B 测试，降低上线风险
不足之处
- 项目处于早期阶段，社区和文档尚不完善
- 功能覆盖可能不如成熟平台全面，需自行扩展
适用场景
- 团队已有 Kubernetes 集群，需要标准化模型部署流程
- 需要频繁更新模型并保证服务可用性的在线推理场景
- 希望统一管理多个模型版本并进行灰度发布的环境
替代项目
Kubeflow、Seldon Core、BentoML
项目介绍
同类项目推荐
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···