项目预览
项目数据
分类基础设施
开发团队eliasbiondo
所属国家
定价模式freemium
价格说明开源免费自托管,官网提供云服务,具体定价待确认
访问状态
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型a2a,ai-gateway,anthropic,api-gateway,bifrost-alternative,guardrails,litellm-alternative,llm,llm-gateway,llm-proxy,mcp,mcp-gateway,observability,openai,openai-proxy,rate-limiting,rust,self-hosted
GitHub 星标★ 140
30天Star增速
HF 下载量
上线时间2026-10-17 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-21
浏览次数0
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
正在加载星标数据…
技术标签
使用教程
—
核心亮点
- 单 Rust 二进制交付,无需 Python 运行时,部署和资源占用更轻
- 内置控制台,路由、预算、观测等治理能力开箱可用
- 统一接入 OpenAI、Anthropic、Gemini、Bedrock 等多家供应商,支持故障切换
不足之处
- 项目仅 140 星,生态和社区验证尚浅
- 文档与长期维护稳定性待观察
适用场景
- 多供应商 LLM 统一接入与按团队分配预算
- 需要自托管、低延迟的 AI 调用代理层
- 对模型调用做审计日志与安全护栏的企业场景
替代项目
LiteLLM、Portkey Gateway、Bifrost
上一篇:scout_apm_ruby
下一篇:DeepInfer
同类项目推荐
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Archived; no longer maintained.
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
