gpt-load

把多个 AI 账号聚合成一个入口,自动轮换防封省额度

开源 freemium 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 7138
维护状态 活跃
是否开源 是
定价模式 freemium

项目预览

项目数据

分类基础设施
开发团队tbphp
所属国家
定价模式freemium
价格说明开源自托管免费,官网提供云服务付费方案,定价信息待确认
访问状态
是否开源是
开源协议MIT
主要语言Go
技术栈/模型ai-gateway,anthropic,api-gateway,claude,claude-code,codex,gemini,gin,go,golang,llm,llm-gateway,load-balancer,openai,self-hosted
GitHub 星标★ 7138
30天Star增速
HF 下载量
上线时间2025-06-06 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-17
浏览次数0

项目介绍

gpt-load 是一个用 Go 编写的自托管 AI 网关,面向需要同时管理多个大模型渠道和多种凭据的用户。它把 OpenAI、Anthropic、Gemini 等不同厂商的 API 统一到一个入口,既支持普通 API Key,也支持 Claude Code、Codex 这类订阅账号,解决多账号轮换、额度分散、单点故障的问题。核心能力包括:多渠道多凭据统一接入与负载均衡、按策略调度和自动故障转移、请求日志与用量统计,方便追踪每个渠道的消耗和成功率。由于是自托管,密钥和请求数据留在自己服务器,适合对隐私和成本敏感的个人或小团队。Go 语言实现,部署为单个二进制,资源占用低,适合放在 VPS 或内网长期运行。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

难度:入门 约 10 分钟 部署方式:Docker 8 步

环境要求

  • Docker 与 Docker Compose 环境(官方 Compose 文件使用镜像 ghcr.io/tbphp/gpt-load:2)
  • 能访问 ghcr.io 拉取镜像,并可从 GitHub Releases 下载原生二进制(可选)
  • 宿主机端口 3001 可用;默认监听地址 HOST=127.0.0.1
  • 使用 Codex / Claude / Antigravity 订阅渠道时,OAuth 回调固定端口 1455、54545、51121 需可用(同主机只能跑一个

安装与启动步骤

  1. 1获取并启动服务

    在包含官方 compose 文件的目录执行,拉取 2.x 镜像并后台启动容器,首次启动会初始化 SQLite 数据库和密钥文件。

    docker compose pull && docker compose up -d
  2. 2查看运行日志

    持续跟踪容器日志,确认服务已监听 3001 端口且没有报错,按 Ctrl+C 退出查看不影响运行。

    docker compose logs -f
  3. 3打开管理界面

    浏览器访问默认地址,使用管理密钥登录后台,后续渠道、分组、AccessKey 都在这里配置。

  4. 4添加渠道

    选择一个上游服务并添加一个或多个 API Key;订阅渠道按提示完成 OAuth 授权或导入凭据。

  5. 5创建分组

    选取一个渠道,配置该分组下可用的模型和运行时策略,作为对外提供服务的逻辑单元。

  6. 6创建 AccessKey

    设置该 AccessKey 可用的分组和客户端协议,生成后把它交给你的应用作为调用凭据(非管理密钥)。

  7. 7原生二进制方式(可选)

    从 GitHub Releases 下载对应平台构建并先对照 SHA256SUMS 校验,赋可执行权限后前台运行,Windows 用户可改用 gpt-load-windows-setup.exe 安装为服务。

    chmod +x ./gpt-load-linux-amd64
    HOST=127.0.0.1 DATA_DIR=./data ./gpt-load-linux-amd64
  8. 8更新与停止服务

    更新时重新拉取镜像并重建容器;停止服务用 stop,数据保留在 gpt-load-data 命名卷中。

    docker compose pull && docker compose up -d
    docker compose stop

关键配置

配置项必填说明示例
HOST否原生监听地址,也是 Compose 主端口和 OAuth 回调端口的默认发布地址127.0.0.1
PORT否HTTP 服务端口,Compose 同时用于容器端口、宿主发布和健康检查3001
DATA_DIR否存放托管数据库、auth.key、encryption.key 和运行时状态./data
DATABASE_DSN否留空用内置 SQLite;填写后使用外部 SQLite/MySQL/PostgreSQLmysql://user:password@db.example:3306/gpt_load?charset=utf8m
AUTH_KEY否管理界面和 /api 管理接口的 Bearer 密钥,非数据面 AccessKeyyour-management-key
ENCRYPTION_KEY否加密渠道凭据,更换或丢失会导致已有凭据无法解密your-encryption-key

如何确认成功

浏览器能打开 http://127.0.0.1:3001 并进入管理界面,同时 docker compose logs -f 无报错,即启动成功。

常见问题

Q:1.x 的数据能直接迁到 2.0 吗?

A:不能。2.0 无法就地打开、导入或迁移 1.x 数据,升级前请先阅读文档中的 Moving from 1.x 章节。

Q:在 SSH 或远程浏览器下 OAuth 授权失败怎么办?

A:浏览器所在的 localhost 可能访问不到 GPT-Load,把完整的回调 URL 粘贴到授权对话框里即可完成流程。

Q:备份和迁移要注意什么?

A:数据库和 encryption.key 必须一起备份。密钥丢失或被替换后,已加密的渠道凭据无法恢复,且当前版本不支持主密钥轮换。

Q:怎么改用 MySQL 或 PostgreSQL?

A:设置 DATABASE_DSN 即可,支持 SQLite 路径/URL、MySQL URL 和 PostgreSQL URL,容器内的文件路径必须位于已挂载目录中。

Q:latest 镜像是最新版本吗?

A:不是。latest 仍停留在 1.x;官方 Compose 使用的是 ghcr.io/tbphp/gpt-load:2,2.0-beta 是 2.0 Beta 通道。

注意事项

  • Compose 默认使用应用托管的 SQLite,数据位于 gpt-load-data 命名卷,包含数据库、auth.key 和 encryption.key。
  • 启动时读取当前目录的 .env,已存在的进程环境变量优先级更高;除特别说明外,改动后需重启进程或容器。
  • Codex、Claude、Antigravity 的 OAuth 回调端口是固定的,因此一台主机同时只能运行一个默认 Compose 实例。
  • HOST=0.0.0.0 会把主端口和 OAuth 回调端口发布到所有宿主网卡,公网部署时注意访问控制。

核心亮点

  • Go 单二进制部署,资源占用低,VPS 上即可长期运行
  • 同时支持 API Key 和 Claude Code/Codex 订阅账号,覆盖面广
  • 内置负载均衡、故障转移和用量日志,多账号管理省心

不足之处

  • 配置项较多,新手需要花时间理解渠道与凭据的映射关系
  • 文档和社区生态相对年轻,遇到冷门厂商问题可参考案例有限

适用场景

  • 个人开发者聚合多个 OpenAI/Claude 账号,统一调用避免单账号限流
  • 小团队自建网关,集中管理成员密钥并统计各渠道用量
  • 把 Claude Code、Codex 订阅额度接入自有应用,降低 API 成本

替代项目

one-api、LiteLLM

上一篇:OSCAR

下一篇:opennhp

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

DEPRECATED — moved to https://github.com/trefeon/freelane. Archived; no longer main···

★ 300 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 9466 2026-09-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 183382 2026-08-09
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 445 2026-08-10