项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 815
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Docker
- Go 1.22+
- Node.js 20+
安装与启动步骤
-
1起基础设施
带监控面板的 agent 工作台。
make infra -
2生成密钥
从模板写 .env,随机生成各项密钥。
make dev-secrets -
3起后端
先起后端再起前端。
make dev-backend -
4起前端
前端单独一个工程。
cd web && pnpm install && pnpm dev
如何确认成功
面板能看到 agent 运行状态与历史任务。
注意事项
- 它强调可观测性,任务链路能追溯。
- dev-secrets 生成的密钥别提交。
- 生产要配持久化存储。
核心亮点
- 统一代理多家 AI 服务,简化接入与密钥管理
- 内置 RBAC 和审计日志,满足企业合规要求
- 支持 MCP 协议,适配新一代 AI 工具生态
不足之处
- 早期项目,文档和社区生态待观察
- 功能边界与成熟度需进一步验证
适用场景
- 企业内部统一管理多个 AI 服务 API 密钥
- 需要审计和合规追踪的 AI 应用开发团队
- 多团队共享 AI 资源,需配额和成本分摊的场景
替代项目
LiteLLM、Portkey、OpenRouter
同类项目推荐
vllm-ultimate-dgx-spark
开源
DGX Spark 新硬件开箱即跑 vLLM 推理镜像
AEON vLLM Ultimate — vLLM 0.27.1 built from source for DGX Spark / Blackwell (sm_12···
Crane
开源
纯 Rust 多模态推理引擎,一个栈跑通文本、视觉、语音与 OCR。
A Pure Rust based LLM, VLM, VLA, TTS, OCR Inference Engine, powering by Candle & Rus···
inference-gateway
开源
一个网关统一接入本地与云端大模型
An open-source, cloud-native, high-performance gateway unifying multiple LLM provide···
whodb
开源
统一管理多源数据,自动梳理血缘与质量,让数据资产清晰可控。
Where data access meets operational intelligence
ccs
开源
一个命令行搞定所有 AI 账号和模型切换
Switch between Claude accounts, Gemini, Copilot, OpenRouter (300+ models) via CLIPro···
PS5LM
开源
越狱 PS5 原生跑 GGUF 大模型
llama.cpp on a jailbroken PS5: run any GGUF model natively on the console, starting ···
wasmer
开源
毫秒级启动的 WebAssembly 沙箱,安全跑不可信代码
Fast and lightweight sandboxes for your apps and AI agents
deeplake
开源
海量训练数据随手存取,喂给模型不卡壳
Deeplake is AI Data Runtime for Agents. It provides serverless postgres with a multi···
spectralquant
开源
旋转特征基+注水位分配,KV-Cache 压缩不降精度
SpectralQuant: Calibrated Eigenbasis Rotation and Water-Filled Bit Allocation for KV···
