项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 285
核心亮点
- Go 原生实现，性能优于 Python 类网关，资源占用低
- 内置缓存、Guardrails、A/B 测试和成本控制，开箱即用
- 兼容 OpenAI API 格式，迁移成本低，支持 30+ 主流模型
不足之处
- 项目处于早期阶段，GitHub 星标仅 221，社区生态和文档成熟度待观察
- 与 LiteLLM 等成熟项目相比，插件扩展和第三方集成可能较少
适用场景
- 企业内部统一管理多个 LLM API 密钥和调用策略
- 需要降低 LLM 调用成本，通过缓存和模型路由优化支出
- 对 AI 应用输出进行安全过滤和合规审查的场景
替代项目
LiteLLM、Kong AI Gateway、Portkey
上一篇：picollm
下一篇：homelab-monitor
同类项目推荐
backlot
开源
本地跑通企业SaaS API，带真实分页鉴权和ACL
A local emulator for enterprise SaaS APIs — Slack, Gmail, Google Drive, GitHub, Jir···
kronk
开源
Go 项目一键接入本地大模型、语音和图像生成
Go With Your Own Intelligence! Use Go for hardware accelerated local inference with ···
NanoLLM
开源
本地跑大模型，量化多模态一条龙
Optimized local inference for LLMs with HuggingFace-like APIs for quantization, visi···
whylogs
开源
记录数据日志，实时监控模型质量与漂移
An open-source data logging library for machine learning models and data pipelines. ···
LocalAI
开源
旧电脑不装显卡，也能本地跑起 AI 全家桶
LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, vi···
aimock
开源
本地一键 Mock 所有 AI 依赖，测试不烧钱不联网
Mock everything your AI app talks to — LLM APIs, MCP, A2A, AG-UI, vector DBs, searc···
ai-beehive
开源
一个 Java 网关，统一接入 ChatGPT、Midjourney 等 AI 服务，省去多平台对接麻烦。
AI 蜂巢，基于 Java 使用 Spring Boot 3 和 JDK 17，支持的功能有 ChatGPT、OpenAi Image、···
BYOKEY
开源
把 AI 订阅变成标准 API，让编程工具直接调用
Turn AI subscriptions into standard API endpoints. OpenAI & Anthropic compatible gat···
edit-anything-app
开源
用无服务器+Stable Diffusion快速搭建AI图像编辑应用
The source of the demo app for fal-serverless + Next.js