antirion

一个 Rust 二进制统一管住所有大模型调用

开源 freemium 基础设施
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 140
维护状态 活跃
是否开源 是
定价模式 freemium

项目预览

项目数据

分类基础设施
开发团队eliasbiondo
所属国家
定价模式freemium
价格说明开源免费自托管,官网提供云服务,具体定价待确认
访问状态
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型a2a,ai-gateway,anthropic,api-gateway,bifrost-alternative,guardrails,litellm-alternative,llm,llm-gateway,llm-proxy,mcp,mcp-gateway,observability,openai,openai-proxy,rate-limiting,rust,self-hosted
GitHub 星标★ 140
30天Star增速
HF 下载量
上线时间2026-10-17 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-21
浏览次数0

项目介绍

antirion 是一个用 Rust 编写的开源 AI 网关,以单个二进制文件形式交付,内置管理控制台。它要解决的是企业在多模型、多供应商环境下调用 LLM 时的统一接入与治理问题:把发往 OpenAI、Anthropic、Gemini、Bedrock 等不同厂商的请求收敛到一个入口,由网关统一完成路由、鉴权、预算控制和可观测性。核心能力包括多供应商请求转发与故障切换、按团队或密钥维度的成本预算限制、访问安全与护栏(guardrails)、调用日志与指标观测,以及对 MCP、A2A 等协议的支持。相比 Python 实现的同类网关,Rust 带来的低开销和单二进制部署是其主打差异点,适合希望自托管、对延迟和运维简洁性有要求的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

  • 单 Rust 二进制交付,无需 Python 运行时,部署和资源占用更轻
  • 内置控制台,路由、预算、观测等治理能力开箱可用
  • 统一接入 OpenAI、Anthropic、Gemini、Bedrock 等多家供应商,支持故障切换

不足之处

  • 项目仅 140 星,生态和社区验证尚浅
  • 文档与长期维护稳定性待观察

适用场景

  • 多供应商 LLM 统一接入与按团队分配预算
  • 需要自托管、低延迟的 AI 调用代理层
  • 对模型调用做审计日志与安全护栏的企业场景

替代项目

LiteLLM、Portkey Gateway、Bifrost

上一篇:scout_apm_ruby

下一篇:DeepInfer

同类项目推荐

freebuff-proxy 开源

聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。

Archived; no longer maintained.

★ 299 2026-08-20
microduck 开源

用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。

A Tiny biped duck robot

★ 9638 2026-09-10
ollama 开源

一条命令本地跑起大模型,免费、私密、不卡顿

Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···

★ 184207 2026-08-09
soperator 开源

用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。

Run Slurm in Kubernetes

★ 451 2026-08-10