ai-gateway
本站收录 105 个带「ai-gateway」标签的 AI 开源项目（按 GitHub 星标从高到低，此处展示前 50 个）
OmniRouteOmniRoute 是一个开源的 AI 网关项目，旨在解决开发者在使用多种 AI 模型时面临的接口碎片化、成本高昂和切换繁琐等问题。它提供一个统一的 API 端★ 71,373
litellmlitellm 是一个轻量级 AI 网关，核心用 Rust 编写，同时提供 Python SDK，可以统一调用 100 多种 LLM API（如 OpenAI、★ 59,873
new-apinew-api 是一个统一的大模型网关，旨在解决 AI 模型碎片化问题。它将 OpenAI、Claude、Gemini 等不同厂商的模型接口统一转换为 Open★ 49,092
kongKong 是一个云原生的 API 网关和 AI 网关，基于 Nginx 和 OpenResty 构建，使用 Lua 编写。它解决了微服务架构中 API 管理、流★ 44,219
9router9router 是一个开源的 AI 网关，旨在为 Claude Code、Codex、Cursor、Cline、Copilot 等主流 AI 编程工具提供免费或★ 30,029
apisixApache APISIX 是一个云原生、高性能、可扩展的 API 网关和 AI 网关。它基于 Nginx 和 etcd 构建，采用 Lua 语言编写，解决了微★ 17,173
opencodexopencodex 是一个通用的 AI 网关代理，专为 OpenAI Codex 和 Claude Code 设计。它解决了开发者被锁定在单一模型提供商的问题，★ 16,642
casdoorCasdoor 是一个开源的、以 Agent 为先的身份与访问管理（IAM）平台，同时充当 LLM MCP 和 Agent 网关及认证服务器。它解决了现代应用中★ 14,493
gatewaygateway 是一个高性能的 AI 网关，旨在统一管理对 1600+ 大语言模型（LLM）的访问，并内置 50+ 种 AI 安全护栏。它通过一个快速且友好的 ★ 13,110
higresshigress 是一个云原生、AI 原生的 API 网关，基于 Envoy 构建，兼容 Ingress 与 Gateway API 标准。它旨在解决传统网关在 ★ 9,474
coaicoai 是一个面向企业级的多租户 AI 一站式解决方案，基于 TypeScript 和 Golang 构建，定位为下一代统一 LLM 网关。它解决了企业在接入★ 9,318
bifrostBifrost 是一个用 Go 构建的企业级 AI 网关，定位为比 LiteLLM 快 50 倍的超高性能代理层。它解决企业在接入多家大模型时的统一管理、流量调★ 8,448
planoPlano 是一个面向智能体应用的原生 AI 代理服务器与数据平面，用 Rust 编写。它解决的是 LLM 应用开发中模型路由、可观测性、智能体编排和安全护栏等★ 7,070
semantic-routersemantic-router 是一个用 Go 编写的可编程混合模型路由器，专为异构 LLM 推理场景设计。它解决的核心问题是：当企业或开发者需要同时调用多个不★ 5,980
routerrouter 是一个面向智能体系统的大模型路由基础设施，用 Go 编写。它解决的核心问题是：在复杂的多模型环境中，如何为每个请求自动选择最合适、最具性价比的模型★ 5,419
agentgatewayagentgateway 是一个用 Rust 编写的新一代 AI Agent 代理网关，专门为 AI Agent 和 MCP 服务器设计。它解决了 Agent ★ 5,090
octeliumoctelium 是一个下一代开源自托管的统一零信任安全访问平台，用 Go 语言编写。它集多种功能于一身：既可作为远程访问 VPN，也可作为 ZTNA（零信任网★ 4,080
CPA-Manager-PlusCPA-Manager-Plus 是一个自托管的 CPA（CLI Proxy API）管理与 AI 网关可观测性面板，专为需要精细管控 AI API 调用的团队★ 3,681
goclawGoClaw 是一个用 Go 语言重写的开源 AI 智能体编排平台，旨在解决大规模部署 AI 智能体团队时的安全与并发问题。它提供多租户隔离、五层安全防护和原生★ 3,630
ccsccs 是一个面向 AI 开发者的命令行工具，用于在 Claude、Gemini、Copilot、OpenRouter 等多家 AI 服务商的 300 多个模型★ 2,867
krakend-ceKrakenD 社区版是一个用 Go 编写的高性能、无状态、声明式 API 网关。它解决的是微服务架构中 API 聚合、认证、限流、监控等横切关注点，通过一个简★ 2,689
octopusoctopus 是一个为个人用户打造的 LLM API 聚合网关，旨在解决多模型 API 分散管理、密钥混乱、调用成本不透明等问题。它通过统一接口接入多家主流大★ 2,659
ai-gatewayai-gateway 是一个基于 Envoy Gateway 构建的统一访问管理网关，专门用于管理和路由对各类生成式 AI 服务的请求。它解决了企业在使用多个 ★ 2,159
future-agiFuture AGI 是一个开源的端到端平台，用于评估、观测和优化 LLM 及 AI 智能体应用。它集成了追踪、评测、模拟、数据集管理、网关和护栏等核心功能，帮★ 2,102
APIParkAPIPark 是一个云原生的 AI 与 API 网关，专为大规模语言模型（LLM）的接入和管理而设计。它解决了企业在使用多个 AI 提供商（如 OpenAI、★ 1,817
llmgatewayllmgateway 是一个基于 TypeScript 构建的轻量级 LLM API 网关，旨在统一管理多个大模型提供商的请求。它通过一个统一的 API 接口，★ 1,668
TokenHubTokenHub 是一个面向企业的私有 AI 网关，旨在统一管理企业对各类 AI 模型的访问，并强化治理能力。它解决了企业在使用多个 AI 服务（如 OpenA★ 1,350
litellm-agent-control-planelitellm-agent-control-plane 是一个用 Rust 编写的开源项目，旨在为多种 AI 智能体提供一个统一的管理和调用平台。它解决了当前 ★ 1,301
GoModelGoModel 是一个用 Go 编写的 AI 网关/控制平面/代理，旨在统一管理多家 AI 提供商的 API 访问。它解决了企业在集成 OpenAI、Anthr★ 1,198
copilot-apicopilot-api 是一个统一 AI 网关，将 GitHub Copilot、OpenAI Codex、OpenCode Go 等订阅制 AI 服务转换为 ★ 1,059
AIHelmsAIHelms 是一个面向企业的 AI 资源纳管平台，旨在解决多模型、多工具、多团队场景下的资源分散、成本失控和治理缺失问题。它提供统一的 AI 网关，纳管 O★ 1,034
CliRelayCliRelay 是一个自托管的 AI 网关，专为编码命令行工具（CLI）设计。它提供一个统一的 OpenAI/Claude/Gemini/Codex 兼容端点★ 1,024
AQBotAQBot 是一个基于 Rust 开发的轻量级、高性能跨平台桌面客户端，集 AI 对话、AI Agent 与 AI 网关于一体。它旨在解决用户在多个 AI 服务★ 913
EnterpriseAgentFrameworkEnterpriseAgentFramework 是一个面向企业级系统的智能体构建框架，基于 Java 技术栈，旨在解决 AI 在 OA、ERP、CRM、工单等★ 829
ThinkWatchThinkWatch 是一个面向企业的 AI 安全堡垒机，为 AI API 和 MCP（模型上下文协议）访问提供统一代理层。它解决企业在接入多家 AI 服务（如★ 815
vlloravllora 是一个用 Rust 编写的 AI 代理调试工具，旨在解决 AI 代理开发过程中难以观察、调试和追踪内部状态的问题。它提供了一套可视化和交互式的调试★ 812
tempstemps 是一个 AI 原生的开源开发者平台，旨在替代 Vercel、Sentry、PostHog、Pingdom、Resend 和 E2B 等多个独立工具，★ 809
codegateCodeGate 是一个面向 AI 智能体框架的安全与工作区管理网关。它解决的核心问题是：当多个 AI 代理或编码助手（如 Claude Code、Codex ★ 791
casbin-gatewaycasbin-gateway 是一个基于 Go 语言构建的 AI 与 MCP（模型上下文协议）安全网关，专注于为 HTTP 服务提供统一的访问控制与安全防护。它★ 641
LynkrLynkr 是一个命令行工具，充当 HTTP 代理，专门用于优化 Claude Code CLI 的代码交互流程。它解决了开发者在与 AI 编程助手交互时，网络★ 605
otariotari 是一个开源的、兼容 OpenAI API 的 LLM 网关，你可以自行部署。它提供了一个统一的 API 端点，用于接入 40 多家 LLM 提供商（★ 498
MisceoMisceo 是一个本地部署的 Anthropic 兼容 AI 网关，核心解决多模型调用时的成本与质量平衡问题。它提供“便宜优先”的路由策略，自动将请求导向低成★ 446
sagifysagify 是一个旨在简化大型语言模型和机器学习工作流的开源工具，主要面向 Python 开发者。它解决了从模型训练到部署过程中配置复杂、流程繁琐的问题，通过★ 442
kiji-proxykiji-proxy 是一个用 Go 编写的轻量级隐私代理，专门用于转发 OpenAI API 请求。它解决了直接调用 OpenAI 时可能存在的隐私泄露问题，★ 436
ccLoadccLoad 是一个用 Go 编写的 AI API 网关，主要解决多模型 API 渠道管理中的手动切换问题。它提供智能路由、自动故障转移、指数冷却、多 URL ★ 418
chatchat 是一个基于 Nuxt 的 AI 聊天机器人模板，使用 Nuxt UI 和 Vercel AI SDK 构建。它旨在帮助开发者快速搭建功能完整的聊天应用★ 376
orbitorbit 是一个自托管的 AI 网关，兼容 OpenAI API，专注于私有 RAG、自然语言数据访问和工具调用代理。它解决了企业在使用大模型时面临的数据隐私★ 351
ccproxyccproxy 是一个面向 Claude Code 的插件化代理基础设施，允许开发者通过钩子拦截和修改 Claude Code 的 API 请求与响应，实现自定★ 346
privacy-filterprivacy-filter 是一个用 Go 编写的 LLM 隐私网关，专注于在毫秒级延迟内对 PII（个人身份信息）和密钥进行脱敏处理。它解决了 AI 应用中★ 337
grok2api-egress-enhancements这是一个为 Grok2API 和 CPA 出口流量提供质量保障的基础设施工具，用 Go 编写。它解决的是代理出口不稳定、质量参差不齐的问题，通过主动探测和被动监★ 317