new-api

一个网关接入所有大模型,协议随意转换,省心又省钱

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 12561 🐛 待处理 1444 👀 关注 160
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 51577
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,AGPL-3.0许可,可自行部署,完全免费。

项目预览

new-api 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队QuantumNous
定价模式🏷️完全免费
价格说明开源项目,AGPL-3.0许可,可自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议AGPL-3.0
主要语言Go
技术栈/模型ai-gateway,api-management,claude,deepseek,gemini,llm-gateway,model-routing,newapi,openai,rerank,self-hosted
GitHub 星标★ 51577
上线时间2023-11-10 00:00:00
代码更新2026-11-08
仓库体积92.5 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数7

项目介绍

new-api 是一个统一的大模型网关,旨在解决 AI 模型碎片化问题。它将 OpenAI、Claude、Gemini 等不同厂商的模型接口统一转换为 OpenAI 兼容格式,同时支持反向转换,让开发者可以用一套 API 接入所有主流模型。项目提供模型聚合与分发能力,支持多租户管理、令牌计费、负载均衡和请求日志,可部署为个人或企业的模型管理中枢。其核心优势在于协议转换的灵活性、高并发处理能力以及丰富的管理功能,适合需要多模型切换、成本控制和统一监控的场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 51577

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 10 分钟 部署方式:Docker 6 步

环境要求

  • 64 位系统(amd64 / arm64),不支持 32 位架构
  • 已安装 Docker 与 Docker Compose(官方推荐 Compose 方式部署)
  • 数据库:本地 SQLite(Docker 需挂载 /data 目录)或远程 MySQL ≥ 5.7.8 / PostgreSQL ≥ 9.6
  • 已合法获得上游厂商的 API Key / 账号,用于配置渠道

安装与启动步骤

  1. 1拉取官方镜像

    从 Docker Hub 拉取 README 中标注的最新镜像 calciumion/new-api:latest,确认本地可用。

    docker pull calciumion/new-api:latest
  2. 2编辑 Compose 配置

    按 README 快速开始,复制并编辑 docker-compose.yml,修改端口、挂载与镜像标签。

    nano docker-compose.yml
  3. 3挂载数据目录

    用 SQLite 时容器必须挂载 /data 目录到宿主机,否则容器重建后数据全部丢失。

  4. 4设置环境变量

    至少设置 SESSION_SECRET;用远程库填 SQL_DSN,用 Redis 填 REDIS_CONN_STRING。

  5. 5启动服务

    在 docker-compose.yml 所在目录后台启动容器;多节点部署须保证 SESSION_SECRET 一致。

    docker compose up -d
  6. 6查看运行状态

    检查容器是否处于运行状态,并查看日志确认无数据库、密钥类报错。

    docker compose ps

关键配置

配置项必填说明示例
SESSION_SECRET是认证签名密钥,多节点部署时必须完全一致your-session-secret-change-me
SQL_DSN否数据库连接串,使用 MySQL/PostgreSQL 时填写user:password@tcp(127.0.0.1:3306)/new-api
REDIS_CONN_STRING否Redis 连接串,用于会话缓存与限流redis://default:password@127.0.0.1:6379
CRYPTO_SECRET否缓存键 HMAC 密钥,共用 Redis 的节点须一致your-crypto-secret-change-me
SESSION_COOKIE_SECURE否开启后启用 Secure Cookie 与严格 Origin 校验false
TRUSTED_PROXIES否受信代理 IP/CIDR 列表,none 表示不信任任何代理127.0.0.0/8, ::1

如何确认成功

执行 docker compose ps 或 docker ps,容器状态为 Up/running,且日志中没有数据库连接失败或 SESSION_SECRET 相关报错。

常见问题

Q:为什么一定要挂载 /data 目录?

A:本地 SQLite 数据库文件存放在容器的 /data 中,不挂载到宿主机时容器一旦重建,全部渠道、令牌与日志数据都会丢失。

Q:多节点部署后登录状态互相不认怎么办?

A:所有节点必须使用同一主数据库并设置完全相同的 SESSION_SECRET;共用同一 Redis 的节点还需使用相同的 CRYPTO_SECRET,否则缓存键摘要不一致。

Q:32 位系统可以部署吗?

A:不支持。README 明确要求 64 位系统,仅支持 amd64 与 arm64 架构,32 位系统无法运行该镜像。

Q:不想用 SQLite,怎么换成 MySQL 或 PostgreSQL?

A:通过 SQL_DSN 填写远程数据库连接串即可,版本要求 MySQL ≥ 5.7.8 或 PostgreSQL ≥ 9.6,同时所有节点要连同一个库。

Q:流式请求经常超时怎么办?

A:调整 STREAMING_TIMEOUT(默认 300 秒)和 RELAY_RESPONSE_HEADER_TIMEOUT(默认 1800 秒);上游返回超大图片时还需调大 STREAM_SCANNER_MAX_BUFFER_MB。

注意事项

  • 仅用于合法授权的 AI API 网关、多模型管理与私有部署场景,上游 Key 需合法获取。
  • 本地 HTTP 开发代理场景下 SESSION_COOKIE_SECURE 保持 false 或未设置,可关闭刷新/登出的 OriginGuard。
  • 多机部署时数据库是登录会话的权威来源,Redis 会话仅为短 TTL 缓存,独立 Redis 节点间存在同步延迟。
  • 更多环境变量与配置说明见官方文档 docs.newapi.pro 的环境变量页面。

核心亮点

  • 支持将任意模型协议转换为 OpenAI/Claude/Gemini 格式,集成成本极低
  • 内置多租户、令牌计费和请求日志,企业级管理功能完备
  • Go 语言实现,性能高,部署简单,单机可支撑高并发

不足之处

  • 文档以英文为主,中文资料相对较少
  • 高级功能(如自定义策略)需要二次开发,开箱即用程度有限

适用场景

  • 企业内部统一 AI 网关,管理多个模型供应商的 API 密钥和成本
  • 开发者快速切换不同大模型,避免代码重复改造
  • 创业公司构建模型聚合服务,对外提供统一 API 接口

替代项目

one-api、LiteLLM、OpenRouter

上一篇:docker-code-interpreter

下一篇:kong

同类项目推荐

esProc 开源

用 Java 生态的 SPL 语言,轻松搞定复杂数据计算。

esProc SPL is a JVM-based programming language designed for structured data computat···

★ 4678 2026-08-10
robustmq 开源

一个二进制搞定多协议消息通信,省掉一堆中间件

Communication infrastructure for the AI era — one binary, one broker, one storage l···

★ 1854 2026-10-17
bitrouter 开源

自动选对模型,让智能体工作流越跑越顺

elastic inference for your agentic workloads, on your terms

★ 239 2026-08-09
screenpipe 开源

录屏24小时,喂给AI代理,本地私密自动化

YC (S26) | Open Computer History | Continuously record your company computer work, m···

★ 22278 2026-08-09
codex-token-skills 开源

为 Codex CLI 省 60-80% token 成本,用前缀缓存优化

⚡ Cut 60-80% token cost for DeepSeek V4 Pro on Codex CLI. token-saver + memory skil···

★ 117 2026-08-09
optimum-intel 开源

让 Hugging Face 模型在 Intel 芯片上跑得更快,几行代码实现加速。

Optimum Intel: Accelerate inference with Intel optimization tools

★ 625 2026-08-09
gateway 开源

本地统一调用 200+ 大模型,告别接口碎片化

The only fully local production-grade Super SDK that provides a simple, unified, and···

★ 607 2026-08-09
mosec 开源

动态批处理+流水线,榨干GPU,提升模型服务吞吐量

A high-performance ML model serving framework, offers dynamic batching and CPU/GPU p···

★ 903 2026-08-09