llm-gateway
本站收录 43 个带「llm-gateway」标签的 AI 开源项目
OmniRouteOmniRoute 是一个开源的 AI 网关项目，旨在解决开发者在使用多种 AI 模型时面临的接口碎片化、成本高昂和切换繁琐等问题。它提供一个统一的 API 端★ 71,373
litellmlitellm 是一个轻量级 AI 网关，核心用 Rust 编写，同时提供 Python SDK，可以统一调用 100 多种 LLM API（如 OpenAI、★ 59,873
kongKong 是一个云原生的 API 网关和 AI 网关，基于 Nginx 和 OpenResty 构建，使用 Lua 编写。它解决了微服务架构中 API 管理、流★ 44,219
9router9router 是一个开源的 AI 网关，旨在为 Claude Code、Codex、Cursor、Cline、Copilot 等主流 AI 编程工具提供免费或★ 30,029
gatewaygateway 是一个高性能的 AI 网关，旨在统一管理对 1600+ 大语言模型（LLM）的访问，并内置 50+ 种 AI 安全护栏。它通过一个快速且友好的 ★ 13,110
coaicoai 是一个面向企业级的多租户 AI 一站式解决方案，基于 TypeScript 和 Golang 构建，定位为下一代统一 LLM 网关。它解决了企业在接入★ 9,318
bifrostBifrost 是一个用 Go 构建的企业级 AI 网关，定位为比 LiteLLM 快 50 倍的超高性能代理层。它解决企业在接入多家大模型时的统一管理、流量调★ 8,448
planoPlano 是一个面向智能体应用的原生 AI 代理服务器与数据平面，用 Rust 编写。它解决的是 LLM 应用开发中模型路由、可观测性、智能体编排和安全护栏等★ 7,070
octopusoctopus 是一个为个人用户打造的 LLM API 聚合网关，旨在解决多模型 API 分散管理、密钥混乱、调用成本不透明等问题。它通过统一接口接入多家主流大★ 2,659
APIParkAPIPark 是一个云原生的 AI 与 API 网关，专为大规模语言模型（LLM）的接入和管理而设计。它解决了企业在使用多个 AI 提供商（如 OpenAI、★ 1,817
llmgatewayllmgateway 是一个基于 TypeScript 构建的轻量级 LLM API 网关，旨在统一管理多个大模型提供商的请求。它通过一个统一的 API 接口，★ 1,668
paritok-4b-v1面向 AI 编码 Agent 的无损压缩网关，基于开源代码原生 4B 模型实现智能压缩。在首轮对话即可节省约 25% 的 Token 费用，长会话或上下文饱和场★ 1,453
GoModelGoModel 是一个用 Go 编写的 AI 网关/控制平面/代理，旨在统一管理多家 AI 提供商的 API 访问。它解决了企业在集成 OpenAI、Anthr★ 1,198
ThinkWatchThinkWatch 是一个面向企业的 AI 安全堡垒机，为 AI API 和 MCP（模型上下文协议）访问提供统一代理层。它解决企业在接入多家 AI 服务（如★ 815
vlloravllora 是一个用 Rust 编写的 AI 代理调试工具，旨在解决 AI 代理开发过程中难以观察、调试和追踪内部状态的问题。它提供了一套可视化和交互式的调试★ 812
NadirClawNadirClaw 是一个开源的 LLM 路由与 AI 成本优化代理，核心目标是帮你在不改变现有工具用法的前提下大幅降低大模型 API 开销。它对外暴露 Ope★ 654
casbin-gatewaycasbin-gateway 是一个基于 Go 语言构建的 AI 与 MCP（模型上下文协议）安全网关，专注于为 HTTP 服务提供统一的访问控制与安全防护。它★ 641
LynkrLynkr 是一个命令行工具，充当 HTTP 代理，专门用于优化 Claude Code CLI 的代码交互流程。它解决了开发者在与 AI 编程助手交互时，网络★ 605
otariotari 是一个开源的、兼容 OpenAI API 的 LLM 网关，你可以自行部署。它提供了一个统一的 API 端点，用于接入 40 多家 LLM 提供商（★ 498
ccproxyccproxy 是一个面向 Claude Code 的插件化代理基础设施，允许开发者通过钩子拦截和修改 Claude Code 的 API 请求与响应，实现自定★ 346
kiwi-memkiwi-mem 是一个自托管的 AI 伴侣记忆网关，定位为 OpenAI 兼容的代理层，解决长期陪伴型 AI 聊天中记忆易丢失、上下文碎片化的问题。它把向量搜★ 319
ai-gatewayai-gateway 是一个用 Go 编写的统一 AI 网关，旨在为 30 多种大语言模型（如 OpenAI、Anthropic、Bedrock、Azure 等★ 266
1flowbase1flowbase 是一个自托管的 AI 网关，用 Rust 编写，旨在解决 AI 应用与业务数据集成时的协议混乱、调度复杂和日志缺失问题。它提供协议转换（如 ★ 265
bella-openapiBella OpenAPI 是一个基于 Java 构建的 AI 能力聚合网关，类似于 OpenRouter，但覆盖更广。它解决的是企业接入多家 AI 服务时接口★ 238
bitrouterbitrouter 是一个上下文感知的模型路由器，专为智能体工作流设计。它持续监控和优化模型选择过程，能与任何智能体框架、任何模型和任何循环协作。核心能力包括：★ 231
nyronyro 是一个自托管的 AI 网关，用 Rust 编写，核心功能是协议转换。它能让 Claude Code、Codex、Gemini CLI 以及各种 SDK★ 194
cc-multi-cli-plugincc-multi-cli-plugin 是一个 Claude Code 插件，允许用户在 Claude Code 环境中直接调用 Codex、Gemini、Cu★ 181
aisixaisix 是一个用 Rust 构建的开源 AI 网关，为 LLM 和 AI 智能体提供统一的 OpenAI 兼容 API 接口。它解决了企业或开发者在接入多家★ 171
busbarbusbar 是一个用 Rust 编写的 LLM API 网关，旨在解决多模型供应商接入和故障转移的痛点。它通过提供一个统一的 URL，让现有 SDK 无需改动★ 154
oss-llmops-stackoss-llmops-stack 是一个模块化的开源 LLMOps 技术栈，旨在将 LLM 应用开发中的不同关注点分离，解决工具碎片化和集成复杂的问题。它整合了★ 153
keirouterkeirouter 是一个用 Go 编写的自托管 AI 网关，定位为友好且极速的 API 路由层。它解决的是企业在接入多家 AI 服务商（如 OpenAI、An★ 146
tiygateTiyGate 是一个用 Rust 编写的轻量级 LLM 网关，专注于为大型语言模型服务提供高可用性保障。它解决了直接对接多个 LLM 提供商时面临的单点故障、★ 145
voidllmvoidllm 是一个隐私优先的 LLM 代理和 AI 网关，用 Go 编写，支持自托管。它解决的是企业在使用多个大模型 API 时的统一接入和安全管理问题，核★ 138
edgeeEdgee 是一个用于与 Edgee Agent Gateway 交互的官方命令行工具。它主要解决开发者在同时使用多个 AI 编程助手（如 Claude Cod★ 136
GozarGozar 是一个自托管的、以 Docker 优先的 OpenAI 兼容 LLM 网关。它主要解决企业在使用多个大模型提供商（如 OpenAI、Anthropi★ 128
nexus-llm-routernexus-llm-router 是一个智能的多 LLM 路由网关，提供与 OpenAI 兼容的 API，可无缝替换现有调用。它解决的核心问题是：在多个大模型提★ 125
awesome-ai-gatewayawesome-ai-gateway 是一个聚焦 AI 网关领域的精选资源与知识库项目。它系统梳理了 LiteLLM、OpenRouter、Portkey、Ko★ 118
freellmpoolfreellmpool 是一个免费大模型网关，把 22 家 LLM 提供商的 178 条可用聊天路由和 431 个模型统一到一个入口。它解决的核心问题是：想用免★ 117
llm-gatewayllm-gateway 是一个零信任的 LLM 网关，提供 OpenAI 兼容的代理服务，支持语义路由和负载均衡，可对接 OpenAI、Anthropic、Ol★ 97
RouterlyRouterly 是一个自托管的 LLM 网关，用于在 OpenAI、Anthropic、Gemini、Mistral、Ollama 等多家 AI 提供商之间智★ 97
awesome-ai-api-proxyawesome-ai-api-proxy 是一个精选 AI API 中转站与 LLM 网关的导航项目，旨在解决多模型调用时密钥分散、接口不统一、成本难控的问题。★ 88
xuanji-landing玄机 XuanJi 是一个面向国内用户的 Claude 客户端和 Claude Code Agent 替代方案，旨在解决国内开发者无法直接使用 Claude 服★ 86
byok-relaybyok-relay 是一个轻量级的中继服务，用于解决前端应用直接调用 LLM API 时遇到的 CORS 限制问题。它允许用户携带自己的 API 密钥（BYO★ 56