coai

一个后台管所有 AI 模型,自动计费与路由,省心省钱

开源 🏷️基础免费,高级付费 ⚠️ 链接可跳转,访问体验不确定 对话助手 🍴 复刻 1223 🐛 待处理 49 👀 关注 65
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 9344
维护状态 低维护
是否开源 开源
定价模式 🏷️基础免费,高级付费 支持限时试用 · 提供免费额度,支持积分与订阅计费,具体价格需查看官网。

项目预览

coai 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队coaidev
官网地址https://coai.dev
定价模式🏷️基础免费,高级付费
价格说明提供免费额度,支持积分与订阅计费,具体价格需查看官网。
访问状态⚠️ 链接可跳转,访问体验不确定
是否开源是
开源协议Apache-2.0
主要语言TypeScript
技术栈/模型ai-gateway,api,chat,chatgpt,cross-platform,gemini,golang,llm-gateway,openai,proxy,react
GitHub 星标★ 9344
上线时间2023-07-17 00:00:00
代码更新2026-03-12
仓库体积34.0 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

coai 是一个面向企业级的多租户 AI 一站式解决方案,基于 TypeScript 和 Golang 构建,定位为下一代统一 LLM 网关。它解决了企业在接入多家 AI 模型提供商时面临的分散管理、成本不可控、计费复杂等痛点。核心能力包括:支持 200+ 模型和 35+ 提供商,提供带优先级路由的负载均衡,内置管理与计费系统,支持信用/订阅计费、聊天分享、云同步、全文件解析、联网搜索以及模型缓存。其内置的管理后台和计费系统让企业可以轻松实现多用户、多租户的 AI 服务运营,同时通过成本管理和路由策略优化资源使用。项目采用 React 构建前端,整体架构现代,适合需要统一 AI 接入和精细化运营的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 9344

使用教程

难度:入门 约 10 分钟 部署方式:Docker 6 步

环境要求

  • Docker 与 Docker Compose(推荐部署方式)
  • 单容器 Docker 方式需自备 MySQL 与 Redis 服务
  • 编译安装需 Node.js 与 pnpm,以及 Go 环境
  • 宿主机需开放 8000 或 8094 端口

安装与启动步骤

  1. 1克隆项目代码

    从 GitHub 拉取 main 分支最新代码,使用 --depth=1 只取最新提交,速度更快。

    git clone --depth=1 --branch=main --single-branch https://github.com/coaidev/coai.git
  2. 2用 Compose 启动

    进入项目目录后后台启动全部服务,首次会拉取镜像。默认映射到宿主机 8000 端口。

    cd chatnio
    docker-compose up -d
  3. 3登录管理后台

    浏览器打开映射地址,使用默认管理员账号 root、密码 chatnio123456 登录后台。

  4. 4更新版本

    启用 Watchtower 自动更新时无需手动执行;否则按此命令拉取新镜像并重启。

    docker-compose down
    docker-compose pull
    docker-compose up -d
  5. 5单容器 Docker 部署

    适用于已有外部 MySQL/RDS 的场景,需按实际环境修改数据库、Redis 与 SECRET 等变量。

    docker run -d --name chatnio \
       --network host \
       -v ~/config:/config \
       -v ~/logs:/logs \
       -v ~/storage:/storage \
       -e MYSQL_HOST=localhost \
       -e MYSQL_PORT=3306 \
       -e MYSQL_DB=chatnio \
       -e MYSQL_USER=root \
       -e MYSQL_PASSWORD=chatnio123456 \
       -e REDIS_HOST=localhost \
       -e REDIS_PORT=6379 \
       -e SECRET=secret \
       -e SERVE_STATIC=true \
       programzmh/chatnio:latest
  6. 6编译安装

    不使用 Docker 时,先编译前端再编译 Go 后端,默认监听 8094 端口。

    git clone https://github.com/coaidev/coai.git
    cd chatnio
    
    cd app
    npm install -g pnpm
    pnpm install
    pnpm build
    
    cd ..
    go build -o chatnio

关键配置

配置项必填说明示例
MYSQL_HOST是MySQL 数据库主机地址,也可在 config.yaml 中配置并被环境变量覆盖localhost
MYSQL_PORT是MySQL 数据库端口3306
MYSQL_DB是使用的数据库名称chatnio
MYSQL_USER是MySQL 连接用户名root
MYSQL_PASSWORD是MySQL 连接密码chatnio123456
SECRET是JWT 密钥,需生成随机字符串并替换,生产环境务必修改secret

如何确认成功

浏览器访问 http://localhost:8000(Compose)或 http://localhost:8094,用 root / chatnio123456 能登录即成功。

常见问题

Q:默认管理员账号密码是什么?

A:部署成功后管理员账号为 root,默认密码为 chatnio123456,登录后建议立即修改密码。

Q:怎么使用稳定版镜像?

A:Compose 方式改用 docker-compose -f docker-compose.stable.yaml up -d;单容器方式把镜像 programzmh/chatnio:latest 换成 programzmh/chatnio:stable。

Q:如何开启自动更新?

A:Compose 方式执行 docker-compose -f docker-compose.watch.yaml up -d 启用 Watchtower,之后无需再手动更新。

Q:数据文件保存在哪里?

A:Compose 方式 MySQL 挂载在 ~/db、Redis 在 ~/redis、配置在 ~/config;单容器方式挂载 ~/config、~/logs、~/storage。

注意事项

  • 单容器 Docker 方式需自行准备 MySQL 与 Redis,并修改对应的环境变量
  • SECRET 为 JWT 密钥,生产环境必须替换为随机字符串
  • README 示例中克隆仓库后执行的是 cd chatnio,请以实际生成的目录名为准
  • Compose 方式映射端口为 8000,docker run 与编译安装默认端口为 8094

核心亮点

  • 内置完整的管理后台和计费系统,开箱即用,无需自研
  • 支持 200+ 模型和 35+ 提供商,覆盖主流 LLM,兼容性强
  • 优先级路由和负载均衡,智能分配请求,提升稳定性并降低成本

不足之处

  • 项目较新,文档和社区生态仍在完善中
  • 多租户和计费功能复杂度高,小团队可能用不上全部能力

适用场景

  • 企业内部统一 AI 网关,集中管理多个模型供应商
  • SaaS 平台为终端用户提供 AI 对话服务并实现按量计费
  • 需要成本控制和负载均衡的 AI 应用开发团队

替代项目

LiteLLM、OpenRouter、One API

上一篇:openai

下一篇:ChatGPT-Mirror

同类项目推荐

llm-scaler 开源

让大模型推理更快更省显存,本地部署也能跑得动

★ 589 2026-09-16
kubeflow-chart 开源

用 Helm 一键部署 Kubeflow,省去复杂配置。

Kubeflow helm chart

★ 143 2026-08-09
mega 开源

为 AI 代理打造的 Git 兼容 monorepo 引擎,让大规模协作更高效。

Mega is an open-source implementation of Google Piper — a Git-compatible monorepo e···

★ 539 2026-08-09
KVzip 开源

长文本推理显存直降4倍,延迟减半,即插即用

[NeurIPS'25 Oral] Query-agnostic KV cache eviction: 3–4× reduction in memory and 2···

★ 228 2026-08-09
medharness 开源

给医院大模型流量装上合规闸门,防泄露、可审计、控成本。

让医疗机构所有大模型流量:PHI 不外泄 · 模型走白名单 · 全量可审计 · 成本可控。

★ 83 2026-08-09
lupine 开源

让无GPU的电脑用上远程显卡,跑AI应用像本地一样

LUPINE is a GPU over IP bridge allowing GPUs on remote machines to be attached to CP···

★ 2462 2026-08-09
dstoolkit-mlops-base 开源

用 Azure 一键搭建模型上线流水线,省去手工部署烦恼

Support ML teams to accelerate their model deployment to production leveraging Azure

★ 91 2026-08-09
timber 开源

一条命令把 XGBoost 等模型编译成 C 代码,推理快 336 倍

Ollama for classical ML models. AOT compiler that turns XGBoost, LightGBM, scikit-le···

★ 690 2026-08-09