
CliRelay
自建 AI 网关,统一管理编码 CLI 的模型调用与花费。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1052
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Go 1.26 运行时(使用官方镜像时无需本地安装)
- Docker 与 Docker Compose(推荐安装方式,Compose 栈含 PostgreSQL 15、Redis 7、updater sidecar)
- PostgreSQL 15+ 与 Redis 7+(运行时依赖,Compose 已内置)
- 可选:S3 兼容对象存储 / Git 仓库(用于非本地配置与鉴权持久化)
安装与启动步骤
-
1克隆仓库
从 GitHub 拉取 CliRelay 源码到本地任意目录。
git clone https://github.com/kittors/CliRelay.git -
2进入项目目录
后续所有命令都在该目录内执行。
cd CliRelay -
3按需预置 .env
.env 可选:首次启动时 clirelay-init 会自动生成缺失密钥并保留已有非空值。生产环境想固定自己的密钥或绑定路径时再手动创建。
-
4启动 Compose 栈
首次执行会拉起 clirelay-init、PostgreSQL、Redis、应用容器和 updater sidecar,并自动从 config.example.yaml 生成 config.yaml。
docker compose up -d -
5检查启动状态
确认各容器处于运行状态且应用通过健康检查,再进入管理面板使用。
docker compose ps
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
CLIRELAY_ADMIN_PASSWORD | 是 | 为空数据库引导首个 admin 用户;须≥12位且含大小写字母和非字母数字字符 | Str0ng!Passw0rd |
CLIRELAY_UPDATER_TOKEN | 否 | updater sidecar 的令牌,首次启动若缺失由 init 服务自动生成 | auto-generated-token |
CLIRELAY_POSTGRES_PASSWORD | 否 | PostgreSQL 密码,首次启动若缺失由 init 服务自动生成 | auto-generated-password |
request-log-storage.store-content | 否 | 是否保存完整请求/响应体,默认关闭 | true |
request-log-storage.content-retention-da | 否 | 完整请求体保留天数,0 表示永久保留,默认30天 | 30 |
如何确认成功
执行 docker compose ps 确认 clirelay-init、PostgreSQL、Redis、应用与 updater 容器均已运行,且应用容器通过健康检查,即可打开 /manage 管理面板。
常见问题
Q:不手动创建 .env 能启动吗?
A:可以。首次 docker compose up -d 时 clirelay-init 会自动生成 .env 中缺失的密钥,并在 config.yaml 缺失时从 config.example.yaml 复制生成。
Q:预置的 CLIRELAY_ADMIN_PASSWORD 为什么被改掉了?
A:密码必须至少12位且同时包含大写字母、小写字母和非字母数字字符。不合规的值会在下次启动时被替换,否则引导会失败导致容器无法启动。
Q:请求和响应正文默认会保存吗?
A:
注意事项
- 首次启动会自动生成密钥与 config.yaml,请勿把生成的 .env 提交到版本库。
- PostgreSQL 是唯一业务数据源,Redis 只承载缓存、锁、限流、队列等可重建状态。
- 关闭正文存储会清除历史输入输出正文,但保留请求详情与请求记录。
- 大流量部署建议调整 config.yaml 中 request-log-storage 相关参数,完整正文默认保留30天且上限约1GB。
核心亮点
- 统一端点兼容主流模型 API,切换模型无需改代码
- 多租户控制台,方便团队内部分权管理
- 请求日志和消费配额,成本控制一目了然
不足之处
- 早期项目,文档和社区生态尚待完善
- 功能聚焦 CLI 场景,通用网关场景覆盖有限
适用场景
- 团队统一管理 AI 编程助手(如 Copilot、Codex)的 API 调用
- 需要精细控制不同成员或项目的 AI 使用额度
- 希望自建网关,避免依赖单一云厂商或集中式代理
替代项目
LiteLLM、OpenRouter、one-api
同类项目推荐
ai-dial-core
开源
一套 API 统一接入多家大模型,业务代码不用改
The main component of AI DIAL, which provides unified API to different chat completi···
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
Deepthink
开源
让大模型自动反复试错,批量搜出更优方案
Using LLMs for iteratively exploring the solution search space at scale.
clearml-fractional-gpu
开源
一块GPU跑多个容器,显存限制+时间切片,利用率翻倍
ClearML Fractional GPU - Run multiple containers on the same GPU with driver level m···
OB1
开源
给AI装一个统一大脑:记忆、网关、聊天全搞定
Open Brain — The infrastructure layer for your thinking. One database, one AI gatew···
eLLM
开源
长程推理跑 CPU,比 GPU 还快,省卡省钱
eLLM: Run Long-Horizon Inference Faster on CPUs Than on GPUs
stock-sdk
开源
前端免后端,一行代码接入A股实时行情
为前端设计的无需 Python、无需后端服务、零依赖的获取股票数据 JavaScript SDK。
llm-gateway
开源
统一安全接入多个大模型,零信任管控 API 调用
Zero trust LLM gateway. OpenAI-compatible proxy with semantic routing and load balan···
gpu-unlock
开源
解锁 30 系显卡 FP/BF16 发射率,逼近专业卡算力
Your GeForce runs AI at half speed. This fixes it for 20/30/40 series cards. Up to 2···