new-api

一个网关接入所有大模型,协议随意转换,省心又省钱

new-api 是一个统一的大模型网关,旨在解决 AI 模型碎片化问题。它将 OpenAI、Claude、Gemini 等不同厂商的模型接口统一转换为 OpenAI 兼容格式,同时支持反向转换,让开发者可以用一套 API 接入所有主流模型。项目提供模型聚合与分发能力,支持多租户管理、令牌计费、负载均衡和请求日志,可部署为个人或企业的模型管理中枢。其核心优势在于协议转换的灵活性、高并发处理能力以及丰富的管理功能,适合需要多模型切换、成本控制和统一监控的场景。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 48694
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类基础设施
开发团队QuantumNous
所属国家
定价模式free
价格说明开源项目,AGPL-3.0许可,可自行部署,完全免费。
访问状态
是否开源是
开源协议AGPL-3.0
主要语言Go
技术栈/模型ai-gateway,claude,deepseek,gemini,newapi,openai,rerank
GitHub 星标★ 48694
30天Star增速
HF 下载量
上线时间2023-11-10 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

难度:入门 约 10 分钟 部署方式:Docker 6 步

环境要求

  • 64 位系统(amd64 / arm64),不支持 32 位架构
  • 已安装 Docker 与 Docker Compose(官方推荐 Compose 方式部署)
  • 数据库:本地 SQLite(Docker 需挂载 /data 目录)或远程 MySQL ≥ 5.7.8 / PostgreSQL ≥ 9.6
  • 已合法获得上游厂商的 API Key / 账号,用于配置渠道

安装与启动步骤

  1. 1拉取官方镜像

    从 Docker Hub 拉取 README 中标注的最新镜像 calciumion/new-api:latest,确认本地可用。

    docker pull calciumion/new-api:latest
  2. 2编辑 Compose 配置

    按 README 快速开始,复制并编辑 docker-compose.yml,修改端口、挂载与镜像标签。

    nano docker-compose.yml
  3. 3挂载数据目录

    用 SQLite 时容器必须挂载 /data 目录到宿主机,否则容器重建后数据全部丢失。

  4. 4设置环境变量

    至少设置 SESSION_SECRET;用远程库填 SQL_DSN,用 Redis 填 REDIS_CONN_STRING。

  5. 5启动服务

    在 docker-compose.yml 所在目录后台启动容器;多节点部署须保证 SESSION_SECRET 一致。

    docker compose up -d
  6. 6查看运行状态

    检查容器是否处于运行状态,并查看日志确认无数据库、密钥类报错。

    docker compose ps

关键配置

配置项必填说明示例
SESSION_SECRET是认证签名密钥,多节点部署时必须完全一致your-session-secret-change-me
SQL_DSN否数据库连接串,使用 MySQL/PostgreSQL 时填写user:password@tcp(127.0.0.1:3306)/new-api
REDIS_CONN_STRING否Redis 连接串,用于会话缓存与限流redis://default:password@127.0.0.1:6379
CRYPTO_SECRET否缓存键 HMAC 密钥,共用 Redis 的节点须一致your-crypto-secret-change-me
SESSION_COOKIE_SECURE否开启后启用 Secure Cookie 与严格 Origin 校验false
TRUSTED_PROXIES否受信代理 IP/CIDR 列表,none 表示不信任任何代理127.0.0.0/8, ::1

如何确认成功

执行 docker compose ps 或 docker ps,容器状态为 Up/running,且日志中没有数据库连接失败或 SESSION_SECRET 相关报错。

常见问题

Q:为什么一定要挂载 /data 目录?

A:本地 SQLite 数据库文件存放在容器的 /data 中,不挂载到宿主机时容器一旦重建,全部渠道、令牌与日志数据都会丢失。

Q:多节点部署后登录状态互相不认怎么办?

A:所有节点必须使用同一主数据库并设置完全相同的 SESSION_SECRET;共用同一 Redis 的节点还需使用相同的 CRYPTO_SECRET,否则缓存键摘要不一致。

Q:32 位系统可以部署吗?

A:不支持。README 明确要求 64 位系统,仅支持 amd64 与 arm64 架构,32 位系统无法运行该镜像。

Q:不想用 SQLite,怎么换成 MySQL 或 PostgreSQL?

A:通过 SQL_DSN 填写远程数据库连接串即可,版本要求 MySQL ≥ 5.7.8 或 PostgreSQL ≥ 9.6,同时所有节点要连同一个库。

Q:流式请求经常超时怎么办?

A:调整 STREAMING_TIMEOUT(默认 300 秒)和 RELAY_RESPONSE_HEADER_TIMEOUT(默认 1800 秒);上游返回超大图片时还需调大 STREAM_SCANNER_MAX_BUFFER_MB。

注意事项

  • 仅用于合法授权的 AI API 网关、多模型管理与私有部署场景,上游 Key 需合法获取。
  • 本地 HTTP 开发代理场景下 SESSION_COOKIE_SECURE 保持 false 或未设置,可关闭刷新/登出的 OriginGuard。
  • 多机部署时数据库是登录会话的权威来源,Redis 会话仅为短 TTL 缓存,独立 Redis 节点间存在同步延迟。
  • 更多环境变量与配置说明见官方文档 docs.newapi.pro 的环境变量页面。

核心亮点

  • 支持将任意模型协议转换为 OpenAI/Claude/Gemini 格式,集成成本极低
  • 内置多租户、令牌计费和请求日志,企业级管理功能完备
  • Go 语言实现,性能高,部署简单,单机可支撑高并发

不足之处

  • 文档以英文为主,中文资料相对较少
  • 高级功能(如自定义策略)需要二次开发,开箱即用程度有限

适用场景

  • 企业内部统一 AI 网关,管理多个模型供应商的 API 密钥和成本
  • 开发者快速切换不同大模型,避免代码重复改造
  • 创业公司构建模型聚合服务,对外提供统一 API 接口

替代项目

one-api、LiteLLM、OpenRouter

项目介绍

new-api 是基础设施领域的开源项目,由 QuantumNous 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(48,694)位列前 1%,在基础设施分类的 1,130 个项目里位列前 2%。

近 41 天,它的 GitHub 星标从 45,011 增加到 48,694,净增 3,683。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。AGPL-3.0许可,可自行部署,完全免费。

它主要面向的使用场景是:企业内部统一AI网关,管理多个模型供应商的API密钥和成本。同类可对比的替代方案包括 one-api、LiteLLM、OpenRouter。

上一篇:docker-code-interpreter

下一篇:kong

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09