ai-gateway 第 2 页
本站收录 109 个带「ai-gateway」标签的 AI 开源项目（按 GitHub 星标从高到低，第 2 / 3 页）
orbitorbit 是一个自托管的 AI 网关，兼容 OpenAI API，专注于私有 RAG、自然语言数据访问和工具调用代理。它解决了企业在使用大模型时面临的数据隐私★ 355
ccproxyccproxy 是一个面向 Claude Code 的插件化代理基础设施，允许开发者通过钩子拦截和修改 Claude Code 的 API 请求与响应，实现自定★ 355
privacy-filterprivacy-filter 是一个用 Go 编写的 LLM 隐私网关，专注于在毫秒级延迟内对 PII（个人身份信息）和密钥进行脱敏处理。它解决了 AI 应用中★ 338
llmiollmio 是一个用 TypeScript 编写的统一 LLM 网关，旨在解决多模型接入时的管理混乱问题。它提供权重负载均衡，让开发者可以按比例将请求分发到不同★ 320
grok2api-egress-enhancements这是一个为 Grok2API 和 CPA 出口流量提供质量保障的基础设施工具，用 Go 编写。它解决的是代理出口不稳定、质量参差不齐的问题，通过主动探测和被动监★ 317
digiRunner-Open-SourcedigiRunner 是一个基于 Java 开发的轻量级 API 网关，专为微服务架构设计。它解决了微服务场景下 API 统一接入、流量控制、安全认证和协议转换★ 306
gptGrok2apigptGrok2api 是一个专注于 ChatGPT 和 Grok 账号批量注册与 API 网关的开源工具。它通过纯协议方式实现全自动注册流程，解决了手动注册账★ 281
1flowbase1flowbase 是一个自托管的 AI 网关，用 Rust 编写，旨在解决 AI 应用与业务数据集成时的协议混乱、调度复杂和日志缺失问题。它提供协议转换（如 ★ 279
ai-gatewayai-gateway 是一个用 Go 编写的统一 AI 网关，旨在为 30 多种大语言模型（如 OpenAI、Anthropic、Bedrock、Azure 等★ 272
bella-openapiBella OpenAPI 是一个基于 Java 构建的 AI 能力聚合网关，类似于 OpenRouter，但覆盖更广。它解决的是企业接入多家 AI 服务时接口★ 240
atidrawatidraw 是一个基于 Vue 构建的在线绘图分享平台，旨在让用户轻松创作并分享自己的画作。它利用 Vercel AI Gateway 的 Nano Ban★ 210
busbarbusbar 是一个用 Rust 编写的 LLM API 网关，旨在解决多模型供应商接入和故障转移的痛点。它通过提供一个统一的 URL，让现有 SDK 无需改动★ 206
aisixaisix 是一个用 Rust 构建的开源 AI 网关，为 LLM 和 AI 智能体提供统一的 OpenAI 兼容 API 接口。它解决了企业或开发者在接入多家★ 200
nyronyro 是一个自托管的 AI 网关，用 Rust 编写，核心功能是协议转换。它能让 Claude Code、Codex、Gemini CLI 以及各种 SDK★ 198
gatewaygateway 是一个开源的 LLM 防火墙，旨在为 AI 应用提供安全网关。它通过自托管方式，在应用与大模型之间建立统一入口，解决企业使用 AI 时的安全管控★ 179
editoreditor 是一个基于 Vue 和 Nuxt 构建的 Notion 风格所见即所得编辑器，专注于提供 AI 驱动的补全和实时协作能力。它解决了传统富文本编辑器★ 171
SmarterRouterSmarterRouter 是一个面向本地 AI 实验室的智能 LLM 网关和路由工具，专门服务于 Ollama、llama.cpp 和 OpenAI 等后端。★ 154
oss-llmops-stackoss-llmops-stack 是一个模块化的开源 LLMOps 技术栈，旨在将 LLM 应用开发中的不同关注点分离，解决工具碎片化和集成复杂的问题。它整合了★ 153
keirouterkeirouter 是一个用 Go 编写的自托管 AI 网关，定位为友好且极速的 API 路由层。它解决的是企业在接入多家 AI 服务商（如 OpenAI、An★ 153
llm-metadatallm-metadata 是一个轻量级的 TypeScript 接口库，用于访问和集成大语言模型的元数据。它解决了应用开发中模型信息分散、难以统一查询的问题，提★ 151
tiygateTiyGate 是一个用 Rust 编写的轻量级 LLM 网关，专注于为大型语言模型服务提供高可用性保障。它解决了直接对接多个 LLM 提供商时面临的单点故障、★ 146
voidllmvoidllm 是一个隐私优先的 LLM 代理和 AI 网关，用 Go 编写，支持自托管。它解决的是企业在使用多个大模型 API 时的统一接入和安全管理问题，核★ 143
antirionantirion 是一个用 Rust 编写的开源 AI 网关，以单个二进制文件形式交付，内置管理控制台。它要解决的是企业在多模型、多供应商环境下调用 LLM 时★ 140
BYOKEYBYOKEY 是一个用 Rust 编写的 AI 网关，将各种 AI 订阅服务转换为标准的 API 端点，兼容 OpenAI 和 Anthropic 的 API ★ 138
MeshClawMeshClaw 是一个将 AI 能力引入 Meshtastic LoRa 网状网络的开源插件，基于 OpenClaw 构建，旨在无互联网环境下提供智能交互。它★ 135
OmniKey-AI-Unified-Key-ManagerOmniKey 是一个自托管的 LLM 代理与故障转移网关，兼容 OpenAI 和 Gemini 接口。它解决多平台 API 密钥分散管理、单点故障和限流问题，★ 133
awesome-ai-gatewayawesome-ai-gateway 是一个聚焦 AI 网关领域的精选资源与知识库项目。它系统梳理了 LiteLLM、OpenRouter、Portkey、Ko★ 131
GozarGozar 是一个自托管的、以 Docker 优先的 OpenAI 兼容 LLM 网关。它主要解决企业在使用多个大模型提供商（如 OpenAI、Anthropi★ 129
litellm-rslitellm-rs 是一个用 Rust 编写的高性能 AI 网关，旨在统一调用 100 多种 LLM API。它兼容 OpenAI 的 API 格式，让开发者★ 121
portkey-python-sdkPortkey Python SDK 是一个用于构建可靠、安全且生产级 AI 应用的开发工具包。它解决了开发者在集成多种大语言模型（LLM）时面临的复杂性、可靠★ 119
nuxt-ui-chatnuxt-ui-chat 是一个基于 Nuxt UI 组件库和 AI SDK v5 构建的流式 AI 聊天应用模板。它解决了开发者快速搭建具备现代交互体验的 A★ 113
litellm-relaylitellm-relay 是一个用 Rust 编写的轻量级代理工具，旨在将各类 AI 工具快速接入 LiteLLM 网关。它解决了企业内部 AI 工具分散、难★ 113
genai-apigenai-api 是一个基于 Cloudflare Workers 和 Google Gemini 模型的轻量级 AI API 网关，旨在帮助开发者快速为应用★ 111
agent-managerWSO2 AI Agent Manager 是一个面向企业的开源控制平面，用于大规模部署、管理和治理 AI 代理。它解决了企业在生产环境中运行多个 AI 代理时★ 111
new-api-docs-v1new-api-docs-v1 是 New API 项目的官方文档站，采用 MDX 格式编写，旨在为开发者提供清晰、完整的 API 使用指南。它解决了 New ★ 109
AI-Worker-ProxyAI-Worker-Proxy 是一个基于 Cloudflare Workers 的 OpenAI 兼容 AI 代理，旨在统一接入 Anthropic Clau★ 106
RouterlyRouterly 是一个自托管的 LLM 网关，用于在 OpenAI、Anthropic、Gemini、Mistral、Ollama 等多家 AI 提供商之间智★ 104
chat-vuechat-vue 是一个基于 Vue 生态的 AI 聊天机器人模板，使用 Nuxt UI、Vercel AI SDK、Vite 和 Nitro 构建。它旨在为开★ 102
llm-gatewayllm-gateway 是一个零信任的 LLM 网关，提供 OpenAI 兼容的代理服务，支持语义路由和负载均衡，可对接 OpenAI、Anthropic、Ol★ 100
awesome-ai-api-proxyawesome-ai-api-proxy 是一个精选 AI API 中转站与 LLM 网关的导航项目，旨在解决多模型调用时密钥分散、接口不统一、成本难控的问题。★ 98
ai-gatewayai-gateway 是一个用 Rust 编写的高性能 AI 网关，专为严苛的 AI 工作流设计。它提供与供应商无关的统一接入层，解决企业在集成多家 AI 服务★ 97
sample-genai-on-eks-starter-kit这是一个在 Amazon EKS 上快速部署生产级生成式 AI 基础设施的工具包。它解决了企业在 AWS 上搭建 GenAI 平台时面临的组件集成复杂、配置繁琐★ 96
infermuxinfermux 是一个用 Go 编写的开源工具，专注于跨云服务提供商的网络路由推断。它解决了在多云或混合云环境中，难以准确判断数据包从源到目的地所经过的网络路★ 95
genai-fullstack-blueprint这是一个面向多模态生成式AI应用的全栈参考架构，采用TypeScript monorepo组织，包含Angular前端客户端和Node.js/Express A★ 93
litellm-pgvectorlitellm-pgvector 是一个将 LiteLLM 的请求日志与向量数据库 pgvector 集成的开源项目。它解决了 LiteLLM 默认日志存储无法★ 88
reverse-checkreverse-check 是一个纯前端实现的 LLM API 测试工具，基于 Vue 构建，无需后端服务即可运行。它主要解决开发者在调试大模型 API 时依赖★ 86
wingmanwingman 是一个面向大规模 AI 推理场景的 Inference Hub，用 Go 语言实现。它旨在解决 AI 模型部署和调用过程中的管理复杂性问题，为团★ 80
WeiClawWeiClaw 是一个开源项目，旨在通过一条命令将微信接入任意 AI Agent，让微信成为 AI 的交互入口。它基于 Node.js 构建，支持多种主流 AI★ 78
opencode-llm-proxyopencode-llm-proxy 是一个基于本地 OpenCode 的 LLM 网关，为 OpenAI、Anthropic、Gemini 以及 Respon★ 74
AegisGateAegisGate 是一个开源的 LLM API 安全网关，作为 OpenAI/Claude 兼容的代理层，为 AI 编码代理（如 Cursor、Claude ★ 70