项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-15 · 当前星标 ★ 518
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Docker
- 各家供应商密钥
安装与启动步骤
-
1先看它做什么
它是一个统一网关层,把多家模型接口收敛成一个入口。
-
2拉镜像起服务
官方镜像直接起。
docker compose up -d -
3进面板配供应商
把你要用的几家密钥填进去。
-
4应用改指向它
应用只认一个端点,换模型不改代码。
-
5看用量与失败重试
网关的另一半价值是重试与降级策略。
如何确认成功
把两个应用接到同一个入口,面板能按应用看到调用量,且某家供应商故障时能自动切到备选
注意事项
- 它的定位是应用与模型供应商之间的一层统一入口。
- 密钥集中管理,应用侧不再散落各家配置。
- 发布说明里提到本地冒烟测试通过但真实供应商调用仍需自测,这点要注意。
- 多一层转发就多一个故障点,监控要跟上。
核心亮点
- 将多种非标准 AI 后端统一转换为 Anthropic/OpenAI 兼容接口,客户端无需改代码
- 支持 Claude Code、Xcode 等真实开发工具直接接入,落地场景明确
- TypeScript 实现,本地运行,配置和扩展相对直观
不足之处
- 早期项目,星标仅 513,稳定性和边界情况处理待验证
- 依赖第三方工具接口,上游变更可能导致适配失效
适用场景
- 在 Claude Code 中复用 GitHub Copilot 订阅额度
- 让只支持 OpenAI API 的编辑器或插件接入 Codex/Antigravity
- 本地开发环境统一 AI 网关,集中管理多个后端密钥与切换
替代项目
LiteLLM、one-api
同类项目推荐
llamafarm
开源
几分钟部署任意 AI 模型到本地或云端
Deploy any AI model, agent, database, RAG, and pipeline locally or remotely in minut···
SharpVector
开源
在 .NET 应用内直接实现语义搜索,无需外部数据库。
Lightweight, In-memory, Semantic Search, Text Vector Database to embed in any .NET A···
flama
开源
一行命令把模型变成 API,自带聊天界面和 MCP 支持
The production framework for Predictive and Generative AI. Serve any model as an API···
inference
开源
一行代码部署视觉模型,让任何设备秒变 CV 指挥中心
Turn any computer or edge device into a command center for your computer vision proj···
mloda
开源
插件化数据访问,让 AI 应用轻松获取可追溯的数据上下文。
mloda.ai - Open Data Access for AI and ML. Plugin-based. Traceable. Framework-agnost···
exllamav3
开源
消费级显卡上高速跑大模型,省显存还快
An optimized quantization and inference library for running LLMs locally on modern c···
postgres
开源
最可靠的开源关系型数据库,搞定复杂数据场景
Mirror of the official PostgreSQL GIT repository. Note that this is just a *mirror* ···
obelisk
开源
让AI代理记住每次会话,历史经验随时可查
Every past session, subagent, and workflow -- queryable by your agent, browsable by ···
vllm-mxfp4
开源
让 AMD R9700 跑大模型推理更快更省显存
The fastest vLLM build for AMD R9700's. For the latest updates join the Launch80 di···
