nexus-llm-router

一个接口接入所有大模型，自动选最优，省钱又省心

nexus-llm-router 是一个智能的多 LLM 路由网关，提供与 OpenAI 兼容的 API，可无缝替换现有调用。它解决的核心问题是：在多个大模型提供商（如 OpenAI、Anthropic、Google 等）之间智能选择最优模型，以平衡成本、延迟和响应质量。项目基于任务感知的路由策略，能根据请求类型（如代码生成、文本摘要、对话）自动匹配最合适的模型，同时内置成本优化机制，在保证效果的前提下降低 API 开销。此外，它强调生产环境的安全性，提供超时、重试、熔断、限流等控制，确保服务稳定。作为基础设施组件，它部署简单，支持 Docker 和 Python 包，适合需要管理多家模型 API 的团队。