llm-router
本站收录 22 个带「llm-router」标签的 AI 开源项目
awesome-free-llm-apis这是一个收录永久免费的大语言模型（LLM）API接口的精选列表，旨在帮助开发者在不花费成本的情况下获取可用的API密钥。项目解决了开发者寻找免费、稳定、可长期使★ 8,649
llm-gatewayllm-gateway 是一个用 TypeScript 编写的 LLM 统一网关，定位是让各类 AI Agent 与开发框架能够无缝对接任意模型供应商。它解决的★ 7,544
ClawRouterClawRouter 是一个面向自主智能体的 LLM 路由层，核心解决多模型选择与成本控制问题。它内置 66 个模型（其中 8 个免费），通过本地路由实现亚毫秒★ 6,614
octopusoctopus 是一个为个人用户打造的 LLM API 聚合网关，旨在解决多模型 API 分散管理、密钥混乱、调用成本不透明等问题。它通过统一接口接入多家主流大★ 2,659
NadirClawNadirClaw 是一个开源的 LLM 路由与 AI 成本优化代理，核心目标是帮你在不改变现有工具用法的前提下大幅降低大模型 API 开销。它对外暴露 Ope★ 654
LynkrLynkr 是一个命令行工具，充当 HTTP 代理，专门用于优化 Claude Code CLI 的代码交互流程。它解决了开发者在与 AI 编程助手交互时，网络★ 605
MisceoMisceo 是一个本地部署的 Anthropic 兼容 AI 网关，核心解决多模型调用时的成本与质量平衡问题。它提供“便宜优先”的路由策略，自动将请求导向低成★ 446
1flowbase1flowbase 是一个自托管的 AI 网关，用 Rust 编写，旨在解决 AI 应用与业务数据集成时的协议混乱、调度复杂和日志缺失问题。它提供协议转换（如 ★ 265
bitrouterbitrouter 是一个上下文感知的模型路由器，专为智能体工作流设计。它持续监控和优化模型选择过程，能与任何智能体框架、任何模型和任何循环协作。核心能力包括：★ 231
SimplerLLMSimplerLLM 是一个 Python 库，旨在简化与大型语言模型的交互。它通过统一的接口封装了 OpenAI、Anthropic、Gemini、DeepS★ 223
nyronyro 是一个自托管的 AI 网关，用 Rust 编写，核心功能是协议转换。它能让 Claude Code、Codex、Gemini CLI 以及各种 SDK★ 194
aisixaisix 是一个用 Rust 构建的开源 AI 网关，为 LLM 和 AI 智能体提供统一的 OpenAI 兼容 API 接口。它解决了企业或开发者在接入多家★ 171
SmarterRouterSmarterRouter 是一个面向本地 AI 实验室的智能 LLM 网关和路由工具，专门服务于 Ollama、llama.cpp 和 OpenAI 等后端。★ 153
OmniKey-AI-Unified-Key-ManagerOmniKey 是一个自托管的 LLM 代理与故障转移网关，兼容 OpenAI 和 Gemini 接口。它解决多平台 API 密钥分散管理、单点故障和限流问题，★ 131
nexus-llm-routernexus-llm-router 是一个智能的多 LLM 路由网关，提供与 OpenAI 兼容的 API，可无缝替换现有调用。它解决的核心问题是：在多个大模型提★ 125
awesome-ai-gatewayawesome-ai-gateway 是一个聚焦 AI 网关领域的精选资源与知识库项目。它系统梳理了 LiteLLM、OpenRouter、Portkey、Ko★ 118
freellmpoolfreellmpool 是一个免费大模型网关，把 22 家 LLM 提供商的 178 条可用聊天路由和 431 个模型统一到一个入口。它解决的核心问题是：想用免★ 117
infermuxinfermux 是一个用 Go 编写的开源工具，专注于跨云服务提供商的网络路由推断。它解决了在多云或混合云环境中，难以准确判断数据包从源到目的地所经过的网络路★ 95
cortexcortex 是一个开源的 AI 后端控制平面，专注于模型路由、智能体工具和私有工作空间管理。它提供 OpenAI 兼容的 API 接口，让开发者可以无缝切换或★ 65
maestroMaestro 是一个开源的 LLM 编排大脑，旨在成为 Fugu 的开源替代品。它解决的是在复杂 AI 工作流中，如何高效地协调多个大语言模型（LLM）和工具★ 65
llm-usellm-use 是一个面向智能体工作流的 LLM 编排工具包，采用“规划器 + 执行器 + 综合器”的架构模式，将复杂任务拆解为可管理的子任务并汇总结果。它内置★ 58
phoenixPhoenix 是 Hermes Agent 的官方插件，旨在为智能体提供生产级的稳定性与安全性。它通过路由分档、风险防线、自愈机制、存档点提醒和审批策略自适应★ 57