coai

一个后台管所有 AI 模型，自动计费与路由，省心省钱

coai 是一个面向企业级的多租户 AI 一站式解决方案，基于 TypeScript 和 Golang 构建，定位为下一代统一 LLM 网关。它解决了企业在接入多家 AI 模型提供商时面临的分散管理、成本不可控、计费复杂等痛点。核心能力包括：支持 200+ 模型和 35+ 提供商，提供带优先级路由的负载均衡，内置管理与计费系统，支持信用/订阅计费、聊天分享、云同步、全文件解析、联网搜索以及模型缓存。其内置的管理后台和计费系统让企业可以轻松实现多用户、多租户的 AI 服务运营，同时通过成本管理和路由策略优化资源使用。项目采用 React 构建前端，整体架构现代，适合需要统一 AI 接入和精细化运营的团队。

开源 freemium 对话助手

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 9316

维护状态低维护

是否开源是

定价模式 freemium

项目数据

分类对话助手

开发团队coaidev

所属国家

官网地址https://coai.dev

GitHubhttps://github.com/coaidev/coai

定价模式freemium

价格说明提供免费额度，支持积分与订阅计费，具体价格需查看官网。

访问状态

是否开源是

开源协议Apache-2.0

主要语言TypeScript

技术栈/模型ai-gateway,api,chat,chatgpt,cross-platform,gemini,golang,llm-gateway,openai,proxy,react

GitHub 星标★ 9316

30天Star增速

HF 下载量

上线时间2023-07-17 00:00:00

最近更新2026-09-22 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数2

使用教程

难度：入门约 10 分钟部署方式：Docker 6 步

环境要求

Docker 与 Docker Compose（推荐部署方式）
单容器 Docker 方式需自备 MySQL 与 Redis 服务
编译安装需 Node.js 与 pnpm，以及 Go 环境
宿主机需开放 8000 或 8094 端口

安装与启动步骤

1克隆项目代码

从 GitHub 拉取 main 分支最新代码，使用 --depth=1 只取最新提交，速度更快。
```
git clone --depth=1 --branch=main --single-branch https://github.com/coaidev/coai.git
```
2用 Compose 启动

进入项目目录后后台启动全部服务，首次会拉取镜像。默认映射到宿主机 8000 端口。
```
cd chatnio
docker-compose up -d
```
3登录管理后台

浏览器打开映射地址，使用默认管理员账号 root、密码 chatnio123456 登录后台。
4更新版本

启用 Watchtower 自动更新时无需手动执行；否则按此命令拉取新镜像并重启。
```
docker-compose down
docker-compose pull
docker-compose up -d
```

5单容器 Docker 部署

适用于已有外部 MySQL/RDS 的场景，需按实际环境修改数据库、Redis 与 SECRET 等变量。

docker run -d --name chatnio 
   --network host 
   -v ~/config:/config 
   -v ~/logs:/logs 
   -v ~/storage:/storage 
   -e MYSQL_HOST=localhost 
   -e MYSQL_PORT=3306 
   -e MYSQL_DB=chatnio 
   -e MYSQL_USER=root 
   -e MYSQL_PASSWORD=chatnio123456 
   -e REDIS_HOST=localhost 
   -e REDIS_PORT=6379 
   -e SECRET=secret 
   -e SERVE_STATIC=true 
   programzmh/chatnio:latest

6编译安装

不使用 Docker 时，先编译前端再编译 Go 后端，默认监听 8094 端口。

git clone https://github.com/coaidev/coai.git
cd chatnio

cd app
npm install -g pnpm
pnpm install
pnpm build

cd ..
go build -o chatnio

关键配置

配置项	必填	说明	示例
`MYSQL_HOST`	是	MySQL 数据库主机地址，也可在 config.yaml 中配置并被环境变量覆盖	`localhost`
`MYSQL_PORT`	是	MySQL 数据库端口	`3306`
`MYSQL_DB`	是	使用的数据库名称	`chatnio`
`MYSQL_USER`	是	MySQL 连接用户名	`root`
`MYSQL_PASSWORD`	是	MySQL 连接密码	`chatnio123456`
`SECRET`	是	JWT 密钥，需生成随机字符串并替换，生产环境务必修改	`secret`

如何确认成功

浏览器访问 http://localhost:8000（Compose）或 http://localhost:8094，用 root / chatnio123456 能登录即成功。

常见问题

Q：默认管理员账号密码是什么？

A：部署成功后管理员账号为 root，默认密码为 chatnio123456，登录后建议立即修改密码。

Q：怎么使用稳定版镜像？

A：Compose 方式改用 docker-compose -f docker-compose.stable.yaml up -d；单容器方式把镜像 programzmh/chatnio:latest 换成 programzmh/chatnio:stable。

Q：如何开启自动更新？

A：Compose 方式执行 docker-compose -f docker-compose.watch.yaml up -d 启用 Watchtower，之后无需再手动更新。

Q：数据文件保存在哪里？

A：Compose 方式 MySQL 挂载在 ~/db、Redis 在 ~/redis、配置在 ~/config；单容器方式挂载 ~/config、~/logs、~/storage。

注意事项

单容器 Docker 方式需自行准备 MySQL 与 Redis，并修改对应的环境变量
SECRET 为 JWT 密钥，生产环境必须替换为随机字符串
README 示例中克隆仓库后执行的是 cd chatnio，请以实际生成的目录名为准
Compose 方式映射端口为 8000，docker run 与编译安装默认端口为 8094

核心亮点

内置完整的管理后台和计费系统，开箱即用，无需自研
支持 200+ 模型和 35+ 提供商，覆盖主流 LLM，兼容性强
优先级路由和负载均衡，智能分配请求，提升稳定性并降低成本

不足之处

项目较新，文档和社区生态仍在完善中
多租户和计费功能复杂度高，小团队可能用不上全部能力

适用场景

企业内部统一 AI 网关，集中管理多个模型供应商
SaaS 平台为终端用户提供 AI 对话服务并实现按量计费
需要成本控制和负载均衡的 AI 应用开发团队

替代项目

LiteLLM、OpenRouter、One API

项目介绍

coai 是基础设施领域的开源项目，由 coaidev 开发，2023 年首次发布。

在全站 13,090 个收录项目中，它的 GitHub 星标数（9,316）位列前 6%，在基础设施分类的 1,132 个项目里位列前 8%。

近 41 天，它的 GitHub 星标从 9,272 增加到 9,316，净增 44。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-22。提供免费额度，支持积分与订阅计费，具体价格需查看官网。从国内网络环境看，访问稳定性一般，建议自备网络条件。

它主要面向的使用场景是：企业内部统一AI网关，集中管理多个模型供应商。同类可对比的替代方案包括 LiteLLM、OpenRouter、One API。

上一篇：openai

下一篇：ChatGPT-Mirror