gateway

本地统一调用 200+ 大模型,告别接口碎片化

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 27 🐛 待处理 3 👀 关注 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 607
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,可免费本地部署使用,无付费版本。

项目预览

gateway 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队adaline
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,可免费本地部署使用,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型ai,ai-agents,anthropic,language-model,llm,llmops,openai,prompt-engineering,togetherai,typescript
GitHub 星标★ 607
上线时间2024-10-15 00:00:00
代码更新2026-07-29
仓库体积2.2 MB
本站数据更新2026-11-07
维护状态低维护
收录时间2026-08-09
浏览次数2

项目介绍

gateway 是一个完全本地化的生产级超级 SDK,为调用 200 多个大型语言模型提供简单、统一且强大的接口。它解决了企业在集成多家 LLM 时面临的接口碎片化、切换成本高和依赖外部服务的问题。核心能力包括:通过单一 SDK 统一调用多种 LLM,支持本地部署保障数据隐私,提供生产级稳定性和性能。项目基于 TypeScript 开发,适合需要灵活接入多家 AI 服务并希望保持数据可控的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 607

使用教程

难度:进阶 约 30 分钟 部署方式:本地安装 4 步

环境要求

  • Node.js 18+
  • 至少两家模型密钥

安装与启动步骤

  1. 1装本体与适配包

    核心包加你要用的供应商适配包,按需装。

    npm install @adaline/gateway @adaline/types
  2. 2建统一调用

    同一套参数调不同供应商,换家只改适配包。

    npm install @adaline/openai @adaline/anthropic
  3. 3配密钥

    各家密钥走统一配置,别散在业务代码里。

  4. 4试回退链路

    配一条主备链路,主服务挂了自动换,这是它的价值。

如何确认成功

同一段请求在主供应商不可用时能自动切到备供应商,且返回结构一致

注意事项

  • 它统一的是调用方式与故障切换,不做效果优化。
  • 全本地运行,请求不经过第三方中转,这点比托管网关踏实。
  • 支持的供应商很多,但各家能力差异仍需自己处理。
  • 适配包版本要与核心包对齐。

核心亮点

  • 覆盖 200+ LLM,接口统一,切换模型无需改代码
  • 完全本地化部署,数据不出内网,满足隐私合规
  • 生产级设计,注重稳定性和性能,适合企业落地

不足之处

  • 早期项目,文档和社区生态待观察
  • 本地部署可能增加运维成本

适用场景

  • 企业内部统一 AI 网关,集中管理多家模型调用
  • 数据敏感场景下需要本地化 LLM 接入
  • 多模型对比测试或模型快速切换开发

替代项目

LiteLLM、OpenRouter、Portkey Gateway

上一篇:tma1

下一篇:bella-openapi

同类项目推荐

bitrouter 开源

自动选对模型,让智能体工作流越跑越顺

elastic inference for your agentic workloads, on your terms

★ 238 2026-08-09
bifrost 开源

高并发场景下,用 Bifrost 统一管理千款模型,延迟微秒级,成本一目了然。

Open-source, high-performance AI gateway that works as your LLM gateway, MCP gateway···

★ 9424 2026-08-09
chroma 开源

给 AI 应用装一个超快的向量搜索引擎

Search infrastructure for AI

★ 29650 2026-08-09
vectordb 开源

自建高性能向量库,让 AI 应用秒级检索私有知识。

A high performance Vector Database leveraging parallel graph computing

★ 874 2026-08-09
meridian 开源

把 Claude Max 订阅用到所有 AI 编程工具里,省心省钱

Use Claude and Antigravity with Pi, OpenCode and other coding clients. Local API bri···

★ 2178 2026-08-09
agentos 开源

把代理当进程跑,无需沙箱虚拟机,直接嵌入现有后端。

Tiny, fast, Linux-compatible sandboxes. Powered by WebAssembly.

★ 4857 2026-08-09
aio2024-mlops 开源

跟着Notebook动手玩转MLOps全流程工具链

This project serves as a hands-on introduction to essential MLOps tools

★ 61 2026-08-09
agent-console 开源

看清每轮 AI 编码花了多少 token 和钱

Local-first observability for AI coding agents. Every Claude Code and Codex session'···

★ 803 2026-10-02
awesome-sagemaker 开源

一站式收藏 SageMaker 精华资源,快速上手少走弯路

A curated list of references for Amazon SageMaker

★ 180 2026-08-09