
mcp-gateway
把 MCP 服务器管起来,K8s 里会话不丢、扩缩容不慌
mcp-gateway 是一个面向 MCP(Model Context Protocol)服务器的反向代理与管理层,用 C# 和 ASP.NET Core 构建。它解决的核心问题是:当企业或团队部署多个 MCP 服务器时,客户端直连会面临会话状态无法保持、服务发现困难、生命周期管理混乱、横向扩展受限等痛点。该项目在 Kubernetes 环境中提供会话感知的有状态路由,确保同一会话的请求始终命中正确的后端实例,同时统一管理 MCP 服务器的启动、健康检查与销毁。它支持 ARM 部署模板和 Bicep 基础设施即代码,方便在 Azure 上快速落地。核心能力包括:反向代理与负载均衡、会话亲和性路由、MCP 服务器生命周期编排、Kubernetes 原生集成以及云环境部署模板。对于需要将 AI 工具链中的 MCP 服务生产化的团队,它填补了从单机实验到集群化运维之间的空白。
项目数据
使用教程
核心亮点
- 提供会话感知的有状态路由,解决 MCP 多实例部署时会话漂移问题
- 内置 Kubernetes 生命周期管理,支持 MCP 服务器的自动启停与健康检查
- 附带 Bicep 和 ARM 部署模板,Azure 上开箱即用,降低基础设施门槛
不足之处
- 项目处于早期阶段,生产环境验证案例和长期稳定性数据有限
- 主要面向 Kubernetes 和 Azure 生态,其他云平台或裸机场景支持较弱
适用场景
- 在 Kubernetes 集群中部署多个 MCP 服务器,需要统一入口和会话保持
- 企业将 AI Agent 的 MCP 工具链从单机迁移到云端生产环境
- 使用 Azure 基础设施即代码快速搭建可扩展的 MCP 服务网关
替代项目
mcp-proxy、mcpo
项目介绍
同类项目推荐
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
OpenAI-compatible gateway for FreeBuff coding models. Token pool, session lifecycle,···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···