agentgateway

给 AI Agent 装个智能网关,统一管理 API、MCP 和权限,让调用更安全可控。

agentgateway 是一个用 Rust 编写的新一代 AI Agent 代理网关,专门为 AI Agent 和 MCP 服务器设计。它解决了 Agent 应用中 API 密钥管理混乱、多模型切换复杂、请求路由不灵活以及缺乏可观测性的问题。核心能力包括:统一代理所有 LLM API 请求,支持多供应商(如 OpenAI、Anthropic)的协议转换;内置 MCP 服务器支持,方便 Agent 接入外部工具;提供细粒度的访问控制、速率限制和用量审计,确保安全合规;同时支持流式响应、请求重试和故障转移,提升系统稳定性。通过轻量级部署,它能让开发者像管理微服务一样管理 AI 调用,是构建生产级 Agent 应用的基础设施层。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 4985
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队agentgateway
所属国家
定价模式free
价格说明开源项目,Apache-2.0 许可证,可自行部署使用,无付费版本。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型agents,ai,ai-gateway,api-gateway,gateway-api,kubernetes,mcp,mcp-gateway,reverse-proxy,rust,service-mesh
GitHub 星标★ 4985
30天Star增速
HF 下载量
上线时间2025-03-18 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7

使用教程

难度:入门 约 10 分钟 部署方式:命令行工具 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 能访问 agentgateway 官网文档(agentgateway.dev)的网络环境
  • 一个可用的终端环境,用于运行 standalone 版本
  • 若选择 Kubernetes 部署,需准备可用的 Kubernetes 集群并支持 Gateway API

安装与启动步骤

  1. 1阅读官方快速开始

    README 只给出文档入口,未提供安装命令。请先打开 Standalone 快速开始页面,按其说明操作,不要凭猜测执行命令。

  2. 2选择部署形态

    agentgateway 提供两种起步方式:Standalone(单机独立运行)和 Kubernetes(内置控制器 + Gateway API),按你的环境二选一。

  3. 3克隆项目仓库

    如需查看源码或示例配置,可通过下方命令获取仓库;这一步不是必须的,官方文档中也可能提供其他获取方式。

    git clone https://github.com/agentgateway/agentgateway.git
  4. 4查看版本发布页

    前往 GitHub Releases 页面确认最新版本号与可用产物(如二进制或容器镜像),README 未给出具体版本号和下载命令。

  5. 5加入社区求助

    如安装过程中遇到问题,可加入官方 Discord 社区或在仓库 Issue 中提问。

如何确认成功

README 未说明验证方式,请以官方快速开始文档中给出的启动输出和访问方式为准。

常见问题

Q:agentgateway 支持哪些部署方式?

A:README 提供 Standalone 快速开始和 Kubernetes 快速开始两条路径,分别对应单机独立部署与基于 Gateway API 的集群部署。

Q:它支持哪些 Agent 相关协议?

A:项目基于 AI 原生协议构建,README 明确提到 MCP(Model Context Protocol)与 A2A(Agent2Agent)两种协议。

Q:README 里为什么没有安装命令?

A:README 是项目总览,实际安装步骤都放在官网文档中,Standalone 与 Kubernetes 各有独立的快速开始页面。

Q:遇到问题在哪里求助?

A:可以通过 README 中给出的 Discord 邀请链接加入社区,或在 GitHub 仓库提交 Issue 反馈。

注意事项

  • 本教程基于 README 节选,其中未包含任何安装命令,因此步骤仅为通用准备动作,实际部署请以官网文档为准。
  • Standalone 与 Kubernetes 的安装流程差异较大,建议先确定目标环境再查阅对应文档。
  • 项目为 Rust 编写,采用 Apache-2.0 开源许可。

核心亮点

  • Rust 编写,性能高且内存安全,适合高并发代理场景
  • 原生支持 MCP 服务器,方便 Agent 集成外部工具链
  • 提供细粒度访问控制与用量审计,满足企业安全合规需求

不足之处

  • 项目较新,生态和文档尚在完善中
  • 高级配置需要理解代理协议与 MCP 概念,上手门槛略高

适用场景

  • 企业内部统一管理多个 AI 模型 API 的调用入口
  • 为多个 Agent 应用提供共享的 MCP 工具网关
  • 需要精细控制 API 密钥分发和用量计费的生产环境

替代项目

LiteLLM、Portkey Gateway、Kong AI Gateway

项目介绍

agentgateway 是基础设施领域的开源项目,由 agentgateway 开发,2025 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(4,985)位列前 9%,在基础设施分类的 1,130 个项目里位列前 13%。

近 41 天,它的 GitHub 星标从 4,322 增加到 4,985,净增 663。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。Apache-2.0 许可证,可自行部署使用,无付费版本。

它主要面向的使用场景是:企业内部统一管理多个AI模型API的调用入口。同类可对比的替代方案包括 LiteLLM、Portkey Gateway、Kong AI Gateway。

上一篇:higress

下一篇:octelium

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09