LLMRouterBench

把各家大模型路由方法拉到同一张考卷上比高低

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 20 👀 关注 1
GitHub ↗
GitHub 星标 ★ 127
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源学术项目,免费使用

项目预览

LLMRouterBench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队ynulihao
定价模式🏷️完全免费
价格说明开源学术项目,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
GitHub 星标★ 127
上线时间2025-12-09 00:00:00
代码更新2026-10-15
仓库体积15.3 MB
本站数据更新2026-10-26
维护状态较活跃
收录时间2026-10-26
浏览次数0

项目介绍

LLMRouterBench 是面向大模型路由(LLM Routing)的系统性评测基准与统一框架,论文被 ACL 2026 Findings 收录。它要解决的问题是:市面上各类路由方法(按成本、能力、置信度选择不同模型)各自使用不同的数据集、指标与实验设置,结果难以横向比较。项目提供大规模路由数据集与统一评测流程,把多种路由策略放进同一套接口下运行,输出可复现的对比结果,帮助研究者和工程团队判断哪种路由方案在成本与质量之间更优。核心能力包括统一的路由器抽象接口、多模型候选池、标准化评测指标(如质量、成本、调用分布)以及可扩展的基准数据,便于新增路由算法或替换模型后端。适合做路由算法研究、模型选型评估和成本优化实验。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-26 · 当前星标 ★ 127

核心亮点

  • 提供统一的路由器接口与评测流水线,不同路由算法可在同一设置下横向对比,结果可复现
  • 自带大规模基准数据与多模型候选池,省去自行构造评测集和调用多模型的工作量
  • 指标覆盖回答质量与调用成本,能直接看出路由策略在性价比上的差异

不足之处

  • 项目处于早期,星标仅百余,生态与文档完善度有限
  • 评测依赖对多个模型后端的实际调用,运行成本和环境配置门槛较高
  • 基准数据与候选模型集合的更新频率需持续观察,否则易与最新模型脱节

适用场景

  • 研究团队对比新提出的路由算法与已有方法的性能差异
  • 工程团队为多模型应用挑选成本与质量平衡的路由策略
  • 教学或论文复现中搭建标准化的 LLM 路由实验环境

替代项目

RouteLLM、RouterBench、LiteLLM

上一篇:StreamEval

下一篇:没有了!

同类项目推荐

fusion_bench 开源

一站式评估和实现深度模型融合,快速对比多种融合算法效果

FusionBench: A Comprehensive Benchmark/Toolkit of Deep Model Fusion

★ 243 2026-08-09
AgentGuard 开源

给 AI Agent 装上零信任安全闸门,防越权、防泄露

AgentGuard: Zero-Trust Security Foundation for AI Agents

★ 154 2026-08-22
LLMEvaluation 开源

选对 LLM 评测方法,少走弯路

A comprehensive guide to LLM evaluation methods designed to assist in identifying th···

★ 207 2026-09-15
secure-ai-tooling 开源

给AI系统做安全体检,用统一框架识别和缓解风险

The CoSAI Risk Map is a framework for identifying, analyzing, and mitigating securit···

★ 101 2026-08-09
athina-evals 开源

给 LLM 响应做质检,快速发现模型输出问题

Python SDK for running evaluations on LLM generated responses

★ 302 2026-08-09
promptpex 开源

自动生成提示词测试用例,让 Prompt 迭代更稳更高效

Test Generation for Prompts

★ 164 2026-08-09
harbor 开源

在真实终端里给智能体打分,让改进有据可依

Framework for evaluating and improving agents

★ 6458 2026-08-10
benchmarks 开源

统一跑分语音AI,延迟准确率一测便知

Reproducible voice-AI benchmarking — TTS / STT / S2S latency and accuracy.

★ 104 2026-10-06
FDAbench 开源

给数据智能体打分,看谁更会分析异构数据

[KDD’26] Official repository for the paper “FDABench: A Benchmark for Data Agents ···

★ 84 2026-08-09