awesome-ai-gateway

100+ AI 网关选型指南,成本安全合规一网打尽

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 143 🐛 待处理 18 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 150
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,CC0-1.0许可,完全免费,无付费版本。

项目预览

awesome-ai-gateway 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队cuihuan
定价模式🏷️完全免费
价格说明开源项目,CC0-1.0许可,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议CC0-1.0
主要语言HTML
技术栈/模型ai-gateway,ai-infrastructure,ai-tools,anthropic,api-gateway,awesome,awesome-list,benchmark,cost-optimization,deepseek,litellm,llm,llm-gateway,llm-proxy,llm-router,llmops,mcp,openai,openrouter,self-hosted
GitHub 星标★ 150
上线时间2026-06-11 00:00:00
代码更新2026-11-09
仓库体积5.5 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数6

项目介绍

awesome-ai-gateway 是一个聚焦 AI 网关领域的精选资源与知识库项目。它系统梳理了 LiteLLM、OpenRouter、Portkey、Kong、Higress、new-api、Bifrost 等 100+ 主流 AI 网关项目,帮助开发者按成本、安全性和合规性等维度进行选型。项目包含 8 个章节的手册,深入讲解 AI 网关的工作原理、架构设计和关键实现细节,并提供了可复现的基准测试数据,所有数字均可自行验证。内容采用中英双语,每日更新,适合需要全面了解 AI 网关生态、进行技术选型或深入理解网关机制的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 150

核心亮点

  • 覆盖 100+ 主流 AI 网关项目,选型对比维度清晰(成本/安全/合规)
  • 提供 8 章节深度手册,从原理到实现系统讲解网关机制
  • 基准测试可复现,数据真实可自行验证,非口头结论

不足之处

  • 项目处于早期阶段,星标数少,社区活跃度待观察
  • 内容深度依赖维护者持续更新,长期维护性存疑

适用场景

  • 需要从众多 AI 网关中做技术选型的企业开发者
  • 想深入理解 AI 网关工作原理和实现细节的架构师
  • 关注网关成本、安全合规对比的云平台决策者

替代项目

awesome-llm-gateway、awesome-ai-agents、llm-gateway-comparison

上一篇:redb-open

下一篇:vllm-factory

同类项目推荐

memory-lancedb-pro 开源

让智能体记忆更准、更清晰,开箱即用的混合检索与管理工具。

Enhanced LanceDB memory plugin for OpenClaw — Hybrid Retrieval (Vector + BM25), Cro···

★ 4449 2026-08-09
xllm 开源

一套引擎,跑遍各类模型和加速器,推理更快更省心。

A high-performance inference engine for LLM, VLM, DiT and REC models, optimized for ···

★ 1618 2026-08-09
mlops-workload-orchestrator 开源

在AWS上标准化编排ML管道,让模型上线更规范高效

The MLOps Workload Orchestrator solution helps you streamline and enforce architectu···

★ 157 2026-08-09
timber 开源

一条命令把 XGBoost 等模型编译成 C 代码,推理快 336 倍

Ollama for classical ML models. AOT compiler that turns XGBoost, LightGBM, scikit-le···

★ 690 2026-08-09
ax 开源

给 AI 编程代理装上记忆和监控,让每次编码都有迹可循。

the agent experience layer · observability + memory for AI coding agents (Claude Co···

★ 122 2026-08-09
openinference 开源

给 AI 应用装上标准监控,一键追踪 LLM 调用全链路

OpenTelemetry Instrumentation for AI Observability

★ 1309 2026-08-09
ComfyUI-Nvidia-Docker 开源

一条命令拉起带 GPU 的 ComfyUI,权限不打架

ComfyUI for NVIDIA GPU in a Docker container with user configurable uid/gid

★ 441 2026-10-30