plano

为智能体应用打造的高性能 AI 原生网关,一键搞定路由、监控与安全。

Plano 是一个面向智能体应用的原生 AI 代理服务器与数据平面,用 Rust 编写。它解决的是 LLM 应用开发中模型路由、可观测性、智能体编排和安全护栏等基础设施问题,让开发者专注于核心业务逻辑。核心能力包括智能 LLM 路由(根据成本、延迟等动态选择模型)、全链路可观测(追踪请求与 Token 消耗)、智能体编排(支持多步骤任务协调)以及内置安全防护(如输入输出过滤)。作为 Envoy 的 AI 网关扩展,它性能高、延迟低,适合生产环境部署。项目当前处于成长阶段,社区活跃,文档较完善。

开源 unknown 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 7063
维护状态 维护中
是否开源
定价模式 unknown

项目数据

分类基础设施
开发团队katanemo
所属国家
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源
开源协议Apache-2.0
主要语言Rust
技术栈/模型ai-gateway,ai-gateway-support,envoy,envoyproxy,gateway,generative-ai,llm-gateway,llm-inference,llm-proxy,llm-routing,llmops,llms,openai,prompt,proxy,proxy-server,routing
GitHub 星标★ 7063
30天Star增速
HF 下载量
上线时间2024-07-09 00:00:00
最近更新2026-09-22 00:00:00
维护状态维护中
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

难度:入门 约 10 分钟 部署方式:本地安装 4 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 已安装 Git,可访问 GitHub 克隆仓库
  • 可正常访问官方文档站 https://docs.planoai.dev
  • 自行编译源码需准备 Rust 开发环境(项目使用 Rust 编写)
  • 使用 LLM 能力时需自备模型提供商访问凭证

安装与启动步骤

  1. 1克隆项目仓库

    从 GitHub 拉取 Plano 源码到本地,README 未提供其他安装方式,这是后续操作的基础。

    git clone https://github.com/katanemo/plano.git
  2. 2进入项目目录

    切换到克隆下来的仓库根目录,后续命令均在此目录下执行。

    cd plano
  3. 3阅读快速开始文档

    README 明确指向官方 Quickstart,安装与启动命令以该文档为准,不要凭猜测执行。

  4. 4按需查阅专项指南

    根据需求查看 LLM 路由、智能体编排、过滤链、可观测性等文档,了解能力边界。

如何确认成功

README 未给出启动成功标志,请以官方 Quickstart 文档中的验证步骤为准。

常见问题

Q:Plano 具体怎么安装和启动?

A:README 节选中没有安装命令,只提供了官方 Quickstart 链接(https://docs.planoai.dev/get_started/quickstart.html),请按该文档操作。

Q:Plano 支持哪些编程语言和 AI 框架?

A:README 说明可使用任意语言或 AI 框架,Plano 以独立于进程的数据平面方式工作,不与框架绑定。

Q:Plano 主要解决什么问题?

A:把智能体路由与编排、可观测与追踪、安全护栏过滤、智能 LLM 路由等通用中间件能力从业务代码中剥离出来。

Q:想了解路由和护栏怎么写?

A:README 指向 LLM Routing、Agent Orchestration、Filter Chains、Observability 等指南页面,按需查阅即可。

注意事项

  • 本教程仅依据 README 节选整理,README 未给出安装命令,实际部署请以官网 Quickstart 为准。
  • 不要自行猜测端口、路径或包名,文档中未提供的信息均需先查官方文档确认。
  • README 提到 Plano 是面向生产的数据平面,涉及密钥与敏感配置时请勿硬编码进代码库。

核心亮点

  • 基于 Rust 和 Envoy,性能卓越,延迟极低,适合高并发生产环境
  • 智能 LLM 路由可动态选择最优模型,显著降低成本和响应时间
  • 内置可观测性和安全护栏,开箱即用,减少额外集成工作

不足之处

  • 项目较新,生态和插件扩展尚不成熟
  • 文档/社区待观察

适用场景

  • 构建复杂多智能体系统,需要统一网关管理模型调用
  • 企业级 LLM 应用部署,要求高可用和全链路监控
  • 需要精细控制 LLM 成本与性能,实现智能路由切换

替代项目

LiteLLM、OpenRouter、Kong AI Gateway

项目介绍

plano 是基础设施领域的开源项目,由 katanemo 开发,2024 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(7,063)位列前 7%,在基础设施分类的 1,130 个项目里位列前 10%。

近 44 天,它的 GitHub 星标从 6,989 增加到 7,063,净增 74。

项目仍在小幅维护中,最近一次代码更新于 2026-09-22。从国内网络环境看,可直接访问。

它主要面向的使用场景是:构建复杂多智能体系统,需要统一网关管理模型调用。同类可对比的替代方案包括 LiteLLM、OpenRouter、Kong AI Gateway。

上一篇:bifrost

下一篇:clearml

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09