LLM-API-Key-Proxy

一个 API 接入所有大模型，自动切换密钥和负载均衡

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 106 🐛 待处理 19 👀 关注 6

GitHub ↗

GitHub 星标 ★ 560

维护状态较活跃

是否开源开源

定价模式 🏷️完全免费开源项目，可自行部署，免费使用。

项目预览

LLM-API-Key-Proxy 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类开源模型

开发团队Mirrowel

GitHubhttps://github.com/Mirrowel/LLM-API-Key-Proxy

定价模式🏷️完全免费

价格说明开源项目，可自行部署，免费使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议NOASSERTION

主要语言Python

技术栈/模型api-key,gemini-api,large-language-model,large-language-models,llm

GitHub 星标★ 560

上线时间2025-06-10 00:00:00

代码更新2026-11-02

仓库体积7.6 MB

本站数据更新2026-11-09

维护状态较活跃

收录时间2026-08-09

浏览次数9

项目介绍

LLM-API-Key-Proxy 是一个通用的 LLM 网关，旨在统一管理多个大语言模型提供商的 API 密钥和端点。它解决了开发者在集成不同 LLM 服务（如 OpenAI、Anthropic、Gemini 等）时面临的接口不一致、密钥分散管理、负载均衡等问题。项目提供 OpenAI/Anthropic 兼容的 API 端点，支持多提供商之间的请求转换和智能负载均衡，使开发者可以通过单一 API 访问所有主流 LLM，简化集成流程，降低维护成本。核心能力包括：多密钥轮换、请求路由、协议翻译、健康检查和故障转移。作为早期项目，其设计理念清晰，适合需要多模型冗余或成本优化的场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 560

技术标签

gemini-api large-language-model large-language-models llm

使用教程

难度：进阶约 40 分钟部署方式：自托管 5 步

环境要求

Python 环境
至少一家模型服务密钥

安装与启动步骤

1克隆

把多家模型服务统一成兼容接口的自托管代理。
```
git clone https://github.com/Mirrowel/LLM-API-Key-Proxy.git
```
2建环境

虚拟环境隔离，别污染系统。
```
python3 -m venv venv
```
3装依赖

按清单装。
```
pip install -r requirements.txt
```
4管密钥

用它自带的工具轮换与检查凭据。
```
python -m rotator_library.credential_tool
```
5起服务

只监听本地，先验证一个后端。
```
python src/proxy_app/main.py
```