tool-eval-bench

80+场景实测大模型工具调用靠不靠谱

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 58 👀 关注 3
GitHub ↗
GitHub 星标 ★ 421
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,无付费计划

项目预览

tool-eval-bench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队SeraphimSerapis
定价模式🏷️完全免费
价格说明开源免费,无付费计划
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 421
上线时间2026-04-17 00:00:00
代码更新2026-11-09
仓库体积6.0 MB
本站数据更新2026-11-11
维护状态活跃
收录时间2026-11-11
浏览次数0

项目介绍

tool-eval-bench 是一个面向大模型推理服务栈的工具调用质量基准测试工具,用 80 多个确定性场景检验模型在多轮编排、安全边界和结构化输出上的表现。它解决的核心问题是:部署 vLLM、SGLang 或 llama.cpp 之后,缺少统一、可复现的手段判断模型在真实工具调用任务中是否可靠。项目提供固定场景集,覆盖多轮工具链调用、越权与危险操作拦截、JSON 等结构化输出格式合规性,并支持对上述三种主流推理后端直接跑分。由于场景确定、可重复,结果便于横向对比不同模型或不同服务配置的差异,适合在模型选型、上线前验收和版本回归时作为参考依据。项目为 Python 实现,星标数约 421,属于早期但方向明确的评测工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-11 · 当前星标 ★ 421

核心亮点

  • 场景集确定可复现,同一配置多次跑分结果稳定,便于版本间回归对比
  • 覆盖多轮工具编排、安全边界拦截和结构化输出三类关键能力,不只测单轮问答
  • 原生支持 vLLM、SGLang、llama.cpp 三种主流推理后端,部署栈适配成本低

不足之处

  • 项目处于早期,场景数量和社区生态仍在积累,长期维护情况待观察
  • 以命令行跑分为主,缺少可视化报告和趋势看板,结果分析需自行处理

适用场景

  • 模型选型阶段横向对比不同模型在同一推理栈下的工具调用能力
  • 推理服务上线前做验收,确认多轮调用和结构化输出符合预期
  • 升级模型版本或调整服务参数后跑回归,检查工具调用质量是否退化

替代项目

BFCL、ToolBench

上一篇:PassLLM

下一篇:没有了!

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1544 2026-08-20
rag-arena 开源

让用户投票,选出最好的 RAG 系统

Open-source RAG evaluation through users' feedback

★ 222 2026-08-09
clean-fid 开源

让 FID 分数更可信,生成模型评估不踩坑

PyTorch - FID calculation with proper image resizing and quantization steps [CVPR 20···

★ 1171 2026-08-09
evalscope 开源

一键评测大模型,性能基准轻松跑

A streamlined and customizable framework for efficient large model (LLM, VLM, AIGC) ···

★ 3678 2026-08-09
bla 开源

给代码下毒,让 AI 逆向代理白忙一场

️ BLA (Blind LLM Agents) — Adversarial defense shield that protects binaries, Elec···

★ 4716 2026-10-31
encord-active 开源

用主动学习挑出最有价值的标注数据,让模型迭代更快更省

The toolkit to test, validate, and evaluate your models and surface, curate, and pri···

★ 461 2026-08-09
agentdojo 开源

搭建 LLM 智能体攻防演练场,量化安全风险

A Dynamic Environment to Evaluate Attacks and Defenses for LLM Agents.

★ 1015 2026-08-09
julius 开源

输入 IP:端口,秒认背后是哪种 LLM 服务

Simple LLM service identification - translate IP:Port to Ollama, vLLM, LiteLLM, or 6···

★ 255 2026-10-19
terminal-bench 开源

在真实终端里跑任务,量出 agent 到底行不行

Measuring and evolving with the frontier of agent work

★ 1030 2026-10-13