nexus-llm-router
一个接口接入所有大模型，自动选最优，省钱又省心
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 122
核心亮点
- OpenAI 兼容 API，现有代码零改造即可接入
- 任务感知路由，按请求类型智能匹配模型
- 内置成本优化，自动选择性价比高的模型
不足之处
- 项目早期，文档和社区生态尚待完善
- 路由策略的准确性依赖历史数据，冷启动效果待验证
适用场景
- 企业统一管理多家 LLM API，降低成本和运维复杂度
- 需要根据任务类型（如代码、聊天）自动选择最优模型的场景
- 对 API 稳定性要求高的生产环境，需熔断和重试机制
替代项目
LiteLLM、OpenRouter、Portkey Gateway
上一篇：homelab-monitor
下一篇：qzcli_tool
同类项目推荐
llama-swap
开源
一个接口自动切换本地大模型，显存不够也能跑多模型
Reliable model swapping for any local AI server. Chosen by thousands of users. Batt···
scalax
开源
让 JAX 程序轻松跑满多卡，分布式训练不再复杂。
A simple library for scaling up JAX programs
yek
开源
把整个代码库一键打包成 LLM 能懂的上下文
A fast Rust based tool to serialize text-based files in a repository or directory fo···
llmfit
开源
一条命令，测出你的硬件能跑哪些 AI 模型
Hundreds of models & providers. One command to find what runs on your hardware.
seatunnel
开源
一条管道搞定海量数据同步，多源异构实时入仓
SeaTunnel is a multimodal, high-performance, distributed, massive data integration t···
boxlite
开源
给 AI 智能体一个微型安全沙箱，轻量到能装进笔记本，弹性到能撑起云。
The micro-VM for AI agents — light enough to embed on your laptop, elastic enough t···
1Cat-vLLM
开源
让 V100 老卡也能跑现代大模型推理
V100 / SM70-focused vLLM engineering fork for modern LLM inference.
5.0-Ai-Engineering-Toolkit
开源
一套 Python 工具，把 AI 训练到部署的脏活串起来
Engineering toolkit for building scalable AI systems, including model training pipel···
WindsurfAPI
开源
把 Windsurf 订阅的 100+ 模型变成通用 API，无缝接入任何 AI 工具
Turn Windsurf / Devin Desktop's 100+ AI models (Claude, GPT, Gemini, DeepSeek, Kimi,···