otari

自建一个端点，管好所有大模型密钥和预算

otari 是一个开源的、兼容 OpenAI API 的 LLM 网关，你可以自行部署。它提供了一个统一的 API 端点，用于接入 40 多家 LLM 提供商（如 OpenAI、Anthropic 等），解决了多提供商切换和密钥管理分散的问题。核心能力包括虚拟密钥（为不同用户或应用生成独立密钥）、预算控制（设置消费上限）和用量追踪（监控请求和费用）。它基于 Python 构建，适合需要集中管理 AI 资源、控制成本和审计使用的团队。通过 otari，你可以将多个后端模型整合到一个网关后面，客户端只需对接一个端点，简化了集成和维护工作。

开源 free 基础设施

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 479

维护状态活跃

是否开源是

定价模式 free

项目数据

分类基础设施

开发团队mozilla-ai

所属国家

官网地址https://otari.ai/docs/gateway

GitHubhttps://github.com/mozilla-ai/otari

定价模式free

价格说明开源项目，可自行部署，无在线服务，完全免费。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型ai,ai-gateway,anthropic,api-key-management,budgets,cost-tracking,gateway,litellm-alternative,llm,llm-gateway,llm-proxy,llm-routing,llmops,multi-provider,open-source,openai,openai-compatible,python,self-hosted

GitHub 星标★ 479

30天Star增速

HF 下载量

上线时间2026-04-02 00:00:00

最近更新2026-09-20 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数4

使用教程

核心亮点

统一网关接入 40+ 提供商，客户端零改动切换模型
虚拟密钥和预算控制，精细化管理团队用量和成本
用量追踪清晰，便于审计和成本分摊

不足之处

早期项目，文档和社区生态待观察
功能相比商业网关可能不够成熟

适用场景

企业内部统一管理多个 LLM API 密钥和配额
为多个项目或团队提供独立的 API 访问控制
需要集中监控 AI 调用成本和用量的场景

替代项目

LiteLLM、OpenRouter、Kong AI Gateway

项目介绍

otari 是基础设施领域的开源项目，由 mozilla-ai 开发，是 2026 年新上线的项目。

它收录于基础设施分类，该分类目前共有 1,130 个项目，GitHub 星标数为 479。

项目目前处于活跃维护状态，最近一次代码更新于 2026-09-20。可自行部署，无在线服务，完全免费。

它主要面向的使用场景是：企业内部统一管理多个LLMAPI密钥和配额。同类可对比的替代方案包括 LiteLLM、OpenRouter、Kong AI Gateway。

上一篇：openlit

下一篇：lmnr