litellm-relay

一步接入所有 AI 工具，统一走你的 LiteLLM 网关

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 基础设施 🍴 复刻 11 🐛 待处理 6 👀 关注 2
GitHub ↗
GitHub 星标 ★ 112
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目，本地部署，无在线服务，全部功能免费。

项目预览

litellm-relay 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类基础设施
开发团队LiteLLM-Labs
GitHubhttps://github.com/LiteLLM-Labs/litellm-relay
定价模式🏷️完全免费
价格说明开源项目，本地部署，无在线服务，全部功能免费。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议NOASSERTION
主要语言Rust
技术栈/模型ai-gateway,ai-governance,ai-monitoring,ai-proxy,shadow-ai,shadowai
GitHub 星标★ 112
上线时间2026-07-09 00:00:00
代码更新2026-10-29
仓库体积131.4 MB
本站数据更新2026-11-09
维护状态较活跃
收录时间2026-08-09
浏览次数4

项目介绍

litellm-relay 是一个用 Rust 编写的轻量级代理工具，旨在将各类 AI 工具快速接入 LiteLLM 网关。它解决了企业内部 AI 工具分散、难以统一管理和审计的问题，通过零开发配置即可让 Claude Desktop、Claude Code、Codex 等主流工具自动路由到你的 LiteLLM 网关，同时还能捕获并转发影子 AI（如 Notion AI、Perplexity 等）的流量，实现统一的密钥管理、成本控制和合规审计。其核心能力包括自动发现并代理 AI 工具流量、无需修改客户端配置、支持多种协议（如 Anthropic、OpenAI 兼容接口），并基于 Rust 提供高性能和低资源占用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 112

核心亮点

  • 零配置接入：自动发现并代理 Claude Desktop、Codex 等工具，无需手动改配置
  • 影子 AI 管控：能捕获 Notion AI、Perplexity 等未授权工具流量，便于审计
  • Rust 实现：性能好、部署简单，适合作为轻量级基础设施

不足之处

  • 项目早期（99 星），稳定性待验证
  • 文档/社区待观察

适用场景

  • 企业内部统一管理 AI 工具调用，实现成本与合规管控
  • 开发团队快速将 Claude Code、Codex 接入现有 LiteLLM 网关
  • 安全团队监控和拦截未经授权的 AI 工具使用

替代项目

LiteLLM Proxy、OpenAI Gateway、Kong AI Gateway

上一篇：litellm-rs

下一篇：ai-gateway

同类项目推荐

cerul 开源

让 AI 记住视频内容，秒级检索关键画面

Open-source video processing core and CLI. Search and annotate local videos with you···

★ 166 2026-08-09
xuanji-landing 开源

国内直连 Claude，防封号，替代 Claude Code 的国产客户端

玄机 XuanJi · Claude 客户端 + Claude Code Agent · 国内直连 Claude Sonnet 4.6 / Opu···

★ 85 2026-08-09
token-limit 开源

盯紧 AI 上下文用量，超限自动提醒，省钱省心

Monitor how many tokens your code and configs consume in AI tools. Set budgets and g···

★ 65 2026-08-09
seait 开源

一键安装主流 AI 绘画工具，告别命令行折腾

SEAIT is a user-friendly application that simplifies the installation process of AI-···

★ 737 2026-08-09
ai-gateway 开源

用 Rust 打造低延迟 AI 网关，统一接入多家模型，让 AI 应用更快更稳。

Built for demanding AI workflows, this gateway offers low-latency, provider-agnostic···

★ 99 2026-08-09
KsanaLLM 开源

C++ 高性能 LLM 推理引擎，把并发吞吐压榨到极致

★ 553 2026-09-16
langfuse-js 开源

给 LLM 应用装上监控，追踪每次调用与成本

Langfuse JS/TS SDK

★ 178 2026-08-09
new-api 开源

一个网关接入所有大模型，协议随意转换，省心又省钱

Open-source AI gateway. Self-hosted LLM gateway with OpenAI-, Claude- and Gemini-com···

★ 51612 2026-08-09
airbyte 开源

600+连接器，把任意数据源同步到仓库或AI应用

Open-source data movement for ELT pipelines and AI agents — from APIs, databases & ···

★ 22336 2026-09-22