AgentBench

一套基准测出 LLM 当智能体到底行不行

AgentBench 是一个用于评估大型语言模型(LLM)作为智能体(Agent)能力的综合基准测试,由清华大学等机构提出,相关论文发表于 ICLR 2024。它解决了现有基准主要测试模型静态知识、而难以衡量模型在动态交互环境中推理、规划和工具使用能力的问题。AgentBench 提供 8 个不同的交互式环境,涵盖操作系统、数据库、知识图谱、卡牌游戏、迷宫、家居任务等,要求模型通过自然语言指令与环境交互并完成任务。其核心能力包括:标准化的任务生成与评估流程、支持多种模型接入(如 GPT-4、ChatGPT 等)、提供在线排行榜和离线评测工具,帮助研究者客观比较不同 LLM 的智能体能力。该基准揭示了当前模型在复杂任务上的显著差距,为后续模型改进和智能体研究提供了重要参考。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 3745
维护状态 低维护
是否开源
定价模式 free

项目数据

分类对话助手
开发团队THUDM
所属国家
官网地址
定价模式free
价格说明开源基准测试工具,Apache-2.0 许可证,完全免费,无付费版本。
访问状态
是否开源
开源协议Apache-2.0
主要语言Python
技术栈/模型chatgpt,gpt-4,llm,llm-agent
GitHub 星标★ 3745
30天Star增速
HF 下载量
上线时间2023-07-28 00:00:00
最近更新2026-09-23 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

难度:进阶 约 30 分钟 部署方式:Docker 7 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Docker 与 Docker Compose 环境(用于一键拉起各任务容器)
  • 已下载或自行构建 alfworld、dbbench、knowledgegraph、os_interaction、webshop 所需 Docker 镜像
  • 可调用的大模型 API(README 示例使用 gpt-3.5-turbo-0613 作为 agent)
  • 如需运行 KG 任务,需先本地部署 Freebase 服务
  • Python 开发环境(项目为 Python 实现,README 未给出具体版本要求)

安装与启动步骤

  1. 1获取项目代码

    拉取 AgentBench 仓库到本地,后续所有操作都在该目录下进行。

    git clone https://github.com/THUDM/AgentBench
  2. 2阅读官方文档

    先看框架介绍、配置指南和程序入口三份文档,了解结构与启动方式。

  3. 3准备任务镜像

    按 README 要求先下载或构建 alfworld、dbbench、knowledgegraph、os_interaction、webshop 所需的 Docker 镜像;节选中该命令块为空,请以仓库最新文档为准。

  4. 4Compose 一键启动

    README 说明可用 Docker Compose 一条命令拉起全部上述任务,具体命令请查阅仓库当前文档。

  5. 5选择模型跑任务

    README 示例以 gpt-3.5-turbo-0613 作为 agent 快速启动 dbbench-std 与 os-std 两个任务,详细参数见 docs/Config_en.md。

  6. 6部署 KG 服务

    KnowledgeGraph 任务依赖的在线服务不稳定,需按 README 下载数据库并本地搭建 freebase 服务。

    git clone https://github.com/dki-lab/Freebase-Setup
  7. 7改 sparql 地址

    把 /configs/tasks/kg.yaml 里的 sparql_url 改成你本地搭建的 SPARQL 服务地址。

关键配置

配置项必填说明示例
sparql_url知识图谱任务依赖的 SPARQL 服务地址,位于 /configs/tasks/kg.yamlhttp://164.107.116.56:3093/sparql

如何确认成功

README 未给出明确成功标志,可确认各任务容器正常启动、日志中可见 agent 与环境交互。

常见问题

Q:没有 Docker 环境能运行吗?

A:当前版本为 alfworld、dbbench、knowledgegraph、os_interaction、webshop 提供全容器化部署,快速上手基于 Docker Compose,建议先安装好 Docker 与 Docker Compose。

Q:想用旧版 AgentBench 怎么办?

A:可以切回旧版本分支 v0.1 或 v0.2,README 给出了对应分支链接 https://github.com/THUDM/AgentBench/tree/v0.1 和 .../tree/v0.2。

Q:知识图谱在线服务不稳定怎么办?

A:按 README 本地部署 freebase-setup,再把 /configs/tasks/kg.yaml 中的 sparql_url 改成自己的 SPARQL 服务地址。

Q:支持哪些模型?

A:README 示例使用 gpt-3.5-turbo-0613 作为 agent,项目整体支持 GPT-4、ChatGPT 等多种大模型接入。

注意事项

  • 当前仓库是接入 AgentRL 的 function calling 版本,行为与 v0.1/v0.2 不同。
  • README 节选中下载或构建 Docker 镜像的命令块为空,实际命令请以仓库最新文档为准。
  • 务必先启动 KG 服务,再启动依赖它的 agent 任务服务。
  • API 密钥等敏感配置不要提交到公开仓库。

核心亮点

  • 覆盖 8 个真实交互环境(OS、DB、游戏等),评估维度全面
  • 支持一键评测主流模型(GPT-4、ChatGPT 等),结果可复现
  • 提供在线排行榜,方便横向对比和追踪进展

不足之处

  • 环境模拟与真实世界仍有差距,生态位有限
  • 文档/社区待观察

适用场景

  • 学术研究:对比不同 LLM 的智能体能力
  • 模型开发:定位模型在交互任务中的短板
  • 选型参考:企业选择适合的 LLM 作为 Agent 底座

替代项目

ToolBench、ALFWorld、WebArena

项目介绍

AgentBench 是评测安全领域的开源项目,由 THUDM 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(3,745)位列前 30%,在评测安全分类的 458 个项目里位列前 7%。

近 45 天,它的 GitHub 星标从 3,655 增加到 3,745,净增 90。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-23。开源基准测试工具,Apache-2.0 许可证,完全免费,无付费版本。

它主要面向的使用场景是:学术研究:对比不同LLM的智能体能力。同类可对比的替代方案包括 ToolBench、ALFWorld、WebArena。

上一篇:promptbench

下一篇:SuperCLUE

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1362 2026-08-24