octopus

一个网关管所有大模型,密钥、路由、计费全搞定

octopus 是一个为个人用户打造的 LLM API 聚合网关,旨在解决多模型 API 分散管理、密钥混乱、调用成本不透明等问题。它通过统一接口接入多家主流大模型提供商,让用户在一个地方管理所有模型密钥、配置路由规则、监控调用量和费用。核心能力包括:多 Provider 适配(OpenAI、Anthropic、Google 等)、灵活的模型路由与负载均衡、基于角色的访问控制、详细的调用日志与用量统计、以及内置的缓存和限流机制。项目采用 TypeScript 编写,提供 RESTful API 和 Web 管理界面,部署简单,适合个人开发者或小团队自托管,作为 AI 应用的统一后端入口。

开源 free 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 2640
维护状态 活跃
是否开源
定价模式 free

项目数据

分类基础设施
开发团队bestruirui
所属国家
官网地址
定价模式free
价格说明开源项目,AGPL-3.0许可,可自行部署使用,无官方收费版本。
访问状态
是否开源
开源协议AGPL-3.0
主要语言TypeScript
技术栈/模型ai,ai-gateway,anthropic,claude,claude-code,codex,codex-app,codex-cli,codex-desktop,golang,llm-gateway,openai,opencode,pi,self-hosted
GitHub 星标★ 2640
30天Star增速
HF 下载量
上线时间2025-11-18 00:00:00
最近更新2026-09-23 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数4

使用教程

难度:入门 约 10 分钟 部署方式:Docker 4 步

环境要求

  • 已安装 Docker(或 Docker + Docker Compose)
  • 一个用于持久化数据的本地目录,如 /path/to/data
  • 若使用 MySQL/PostgreSQL,需提前手动创建数据库

安装与启动步骤

  1. 1启动容器

    用官方镜像直接运行,把本地目录挂载到 /app/data 以持久化配置和数据库文件,并映射 8080 端口。

    docker run -d --name octopus -v /path/to/data:/app/data -p 8080:8080 bestrui/octopus
  2. 2或用 Compose 启动

    下载官方 docker-compose.yml 后用 compose 启动,适合需要长期维护的部署方式。

    wget https://raw.githubusercontent.com/bestruirui/octopus/refs/heads/master/docker-compose.yml
    docker compose up -d
  3. 3检查配置文件

    首次启动会自动在 data 目录生成 config.json,默认使用 SQLite,通常无需修改即可使用。

    cat /path/to/data/config.json
  4. 4按需修改配置

    如需改监听端口、切换 MySQL/PostgreSQL 或调整日志级别,编辑 data/config.json 后重启容器生效。

    docker restart octopus

关键配置

配置项必填说明示例
server.host服务监听地址,默认 0.0.0.00.0.0.0
server.port服务监听端口,默认 80808080
database.type数据库类型,支持 sqlite/mysql/postgressqlite
database.path数据库连接串,格式随类型不同data/data.db
database.path(MySQL)MySQL 连接串格式root:password@tcp(127.0.0.1:3306)/octopus
database.path(PostgreSQL)PostgreSQL 连接串格式postgresql://user:password@localhost:5432/octopus?sslmode=di

如何确认成功

容器正常运行后,浏览器访问 http://localhost:8080 能打开 Web 管理面板即部署成功。

常见问题

Q:配置文件在哪里?需要自己创建吗?

A:默认位于 data/config.json,首次启动时会自动生成,一般不用手动创建。

Q:能用 MySQL 或 PostgreSQL 吗?

A:可以,把 database.type 改为 mysql 或 postgres,并填对应连接串。注意这两种数据库需你手动创建,表结构程序会自动建。

Q:端口被占用怎么办?

A:修改 config.json 中的 server.port,同时调整 docker run 的 -p 映射端口后重启容器。

Q:数据会丢吗?

A:只要把容器内 /app/data 挂载到宿主机目录(如 -v /path/to/data:/app/data),重启或升级容器数据都会保留。

注意事项

  • Docker 部署务必挂载 /app/data,否则容器重建后配置与数据会丢失。
  • 切换到 MySQL/PostgreSQL 前需自行创建空数据库,程序只自动建表结构。
  • 修改 config.json 后需重启容器才会生效。

核心亮点

  • 统一管理多家 LLM API 密钥,免去多平台切换烦恼
  • 支持模型路由和负载均衡,可自定义优先级和故障转移
  • 内置用量统计和费用追踪,帮助控制 API 成本

不足之处

  • 文档/社区待观察
  • 个人项目,企业级功能(如高可用、多租户)可能不完善

适用场景

  • 个人开发者统一管理多个 AI 应用的后端模型调用
  • 小团队内部搭建共享的 LLM 网关,集中管控密钥和预算
  • 需要按模型或用户维度统计 API 用量和费用的场景

替代项目

LiteLLM、OpenRouter、one-api

项目介绍

octopus 是基础设施领域的开源项目,由 bestruirui 开发,2025 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(2,640)位列前 30%,在基础设施分类中处于中上游。

近 42 天,它的 GitHub 星标从 2,358 增加到 2,640,净增 282。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。AGPL-3.0许可,可自行部署使用,无官方收费版本。

它主要面向的使用场景是:个人开发者统一管理多个AI应用的后端模型调用。同类可对比的替代方案包括 LiteLLM、OpenRouter、one-api。

上一篇:CPA-Manager-Plus

下一篇:APIPark

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···

★ 213 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 8684 2026-09-10
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 439 2026-08-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 181484 2026-08-09