项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 9344
使用教程
环境要求
- Docker 与 Docker Compose(推荐部署方式)
- 单容器 Docker 方式需自备 MySQL 与 Redis 服务
- 编译安装需 Node.js 与 pnpm,以及 Go 环境
- 宿主机需开放 8000 或 8094 端口
安装与启动步骤
-
1克隆项目代码
从 GitHub 拉取 main 分支最新代码,使用 --depth=1 只取最新提交,速度更快。
git clone --depth=1 --branch=main --single-branch https://github.com/coaidev/coai.git -
2用 Compose 启动
进入项目目录后后台启动全部服务,首次会拉取镜像。默认映射到宿主机 8000 端口。
cd chatnio docker-compose up -d -
3登录管理后台
浏览器打开映射地址,使用默认管理员账号 root、密码 chatnio123456 登录后台。
-
4更新版本
启用 Watchtower 自动更新时无需手动执行;否则按此命令拉取新镜像并重启。
docker-compose down docker-compose pull docker-compose up -d -
5单容器 Docker 部署
适用于已有外部 MySQL/RDS 的场景,需按实际环境修改数据库、Redis 与 SECRET 等变量。
docker run -d --name chatnio \ --network host \ -v ~/config:/config \ -v ~/logs:/logs \ -v ~/storage:/storage \ -e MYSQL_HOST=localhost \ -e MYSQL_PORT=3306 \ -e MYSQL_DB=chatnio \ -e MYSQL_USER=root \ -e MYSQL_PASSWORD=chatnio123456 \ -e REDIS_HOST=localhost \ -e REDIS_PORT=6379 \ -e SECRET=secret \ -e SERVE_STATIC=true \ programzmh/chatnio:latest -
6编译安装
不使用 Docker 时,先编译前端再编译 Go 后端,默认监听 8094 端口。
git clone https://github.com/coaidev/coai.git cd chatnio cd app npm install -g pnpm pnpm install pnpm build cd .. go build -o chatnio
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
MYSQL_HOST | 是 | MySQL 数据库主机地址,也可在 config.yaml 中配置并被环境变量覆盖 | localhost |
MYSQL_PORT | 是 | MySQL 数据库端口 | 3306 |
MYSQL_DB | 是 | 使用的数据库名称 | chatnio |
MYSQL_USER | 是 | MySQL 连接用户名 | root |
MYSQL_PASSWORD | 是 | MySQL 连接密码 | chatnio123456 |
SECRET | 是 | JWT 密钥,需生成随机字符串并替换,生产环境务必修改 | secret |
如何确认成功
浏览器访问 http://localhost:8000(Compose)或 http://localhost:8094,用 root / chatnio123456 能登录即成功。
常见问题
Q:默认管理员账号密码是什么?
A:部署成功后管理员账号为 root,默认密码为 chatnio123456,登录后建议立即修改密码。
Q:怎么使用稳定版镜像?
A:Compose 方式改用 docker-compose -f docker-compose.stable.yaml up -d;单容器方式把镜像 programzmh/chatnio:latest 换成 programzmh/chatnio:stable。
Q:如何开启自动更新?
A:Compose 方式执行 docker-compose -f docker-compose.watch.yaml up -d 启用 Watchtower,之后无需再手动更新。
Q:数据文件保存在哪里?
A:Compose 方式 MySQL 挂载在 ~/db、Redis 在 ~/redis、配置在 ~/config;单容器方式挂载 ~/config、~/logs、~/storage。
注意事项
- 单容器 Docker 方式需自行准备 MySQL 与 Redis,并修改对应的环境变量
- SECRET 为 JWT 密钥,生产环境必须替换为随机字符串
- README 示例中克隆仓库后执行的是 cd chatnio,请以实际生成的目录名为准
- Compose 方式映射端口为 8000,docker run 与编译安装默认端口为 8094
核心亮点
- 内置完整的管理后台和计费系统,开箱即用,无需自研
- 支持 200+ 模型和 35+ 提供商,覆盖主流 LLM,兼容性强
- 优先级路由和负载均衡,智能分配请求,提升稳定性并降低成本
不足之处
- 项目较新,文档和社区生态仍在完善中
- 多租户和计费功能复杂度高,小团队可能用不上全部能力
适用场景
- 企业内部统一 AI 网关,集中管理多个模型供应商
- SaaS 平台为终端用户提供 AI 对话服务并实现按量计费
- 需要成本控制和负载均衡的 AI 应用开发团队
替代项目
LiteLLM、OpenRouter、One API
上一篇:openai
下一篇:ChatGPT-Mirror
同类项目推荐
llm-scaler
开源
让大模型推理更快更省显存,本地部署也能跑得动
kubeflow-chart
开源
用 Helm 一键部署 Kubeflow,省去复杂配置。
Kubeflow helm chart
mega
开源
为 AI 代理打造的 Git 兼容 monorepo 引擎,让大规模协作更高效。
Mega is an open-source implementation of Google Piper — a Git-compatible monorepo e···
guidance-for-multi-provider-gene···
开源
一套 OpenAI 风格接口,统一调用 AWS 上多家大模型
This Guidance demonstrates how to streamline access to numerous large language model···
KVzip
开源
长文本推理显存直降4倍,延迟减半,即插即用
[NeurIPS'25 Oral] Query-agnostic KV cache eviction: 3–4× reduction in memory and 2···
medharness
开源
给医院大模型流量装上合规闸门,防泄露、可审计、控成本。
让医疗机构所有大模型流量:PHI 不外泄 · 模型走白名单 · 全量可审计 · 成本可控。
lupine
开源
让无GPU的电脑用上远程显卡,跑AI应用像本地一样
LUPINE is a GPU over IP bridge allowing GPUs on remote machines to be attached to CP···
dstoolkit-mlops-base
开源
用 Azure 一键搭建模型上线流水线,省去手工部署烦恼
Support ML teams to accelerate their model deployment to production leveraging Azure
timber
开源
一条命令把 XGBoost 等模型编译成 C 代码,推理快 336 倍
Ollama for classical ML models. AOT compiler that turns XGBoost, LightGBM, scikit-le···
