
AgentBench
一套基准测出 LLM 当智能体到底行不行
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 3817
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- Docker 与 Docker Compose 环境(用于一键拉起各任务容器)
- 已下载或自行构建 alfworld、dbbench、knowledgegraph、os_interaction、webshop 所需 Docker 镜像
- 可调用的大模型 API(README 示例使用 gpt-3.5-turbo-0613 作为 agent)
- 如需运行 KG 任务,需先本地部署 Freebase 服务
- Python 开发环境(项目为 Python 实现,README 未给出具体版本要求)
安装与启动步骤
-
1获取项目代码
拉取 AgentBench 仓库到本地,后续所有操作都在该目录下进行。
git clone https://github.com/THUDM/AgentBench -
2阅读官方文档
先看框架介绍、配置指南和程序入口三份文档,了解结构与启动方式。
-
3准备任务镜像
按 README 要求先下载或构建 alfworld、dbbench、knowledgegraph、os_interaction、webshop 所需的 Docker 镜像;节选中该命令块为空,请以仓库最新文档为准。
-
4Compose 一键启动
README 说明可用 Docker Compose 一条命令拉起全部上述任务,具体命令请查阅仓库当前文档。
-
5选择模型跑任务
README 示例以 gpt-3.5-turbo-0613 作为 agent 快速启动 dbbench-std 与 os-std 两个任务,详细参数见 docs/Config_en.md。
-
6部署 KG 服务
KnowledgeGraph 任务依赖的在线服务不稳定,需按 README 下载数据库并本地搭建 freebase 服务。
git clone https://github.com/dki-lab/Freebase-Setup -
7改 sparql 地址
把 /configs/tasks/kg.yaml 里的 sparql_url 改成你本地搭建的 SPARQL 服务地址。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
sparql_url | 是 | 知识图谱任务依赖的 SPARQL 服务地址,位于 /configs/tasks/kg.yaml | http://164.107.116.56:3093/sparql |
如何确认成功
README 未给出明确成功标志,可确认各任务容器正常启动、日志中可见 agent 与环境交互。
常见问题
Q:没有 Docker 环境能运行吗?
A:当前版本为 alfworld、dbbench、knowledgegraph、os_interaction、webshop 提供全容器化部署,快速上手基于 Docker Compose,建议先安装好 Docker 与 Docker Compose。
Q:想用旧版 AgentBench 怎么办?
A:可以切回旧版本分支 v0.1 或 v0.2,README 给出了对应分支链接 https://github.com/THUDM/AgentBench/tree/v0.1 和 .../tree/v0.2。
Q:知识图谱在线服务不稳定怎么办?
A:按 README 本地部署 freebase-setup,再把 /configs/tasks/kg.yaml 中的 sparql_url 改成自己的 SPARQL 服务地址。
Q:支持哪些模型?
A:README 示例使用 gpt-3.5-turbo-0613 作为 agent,项目整体支持 GPT-4、ChatGPT 等多种大模型接入。
注意事项
- 当前仓库是接入 AgentRL 的 function calling 版本,行为与 v0.1/v0.2 不同。
- README 节选中下载或构建 Docker 镜像的命令块为空,实际命令请以仓库最新文档为准。
- 务必先启动 KG 服务,再启动依赖它的 agent 任务服务。
- API 密钥等敏感配置不要提交到公开仓库。
核心亮点
- 覆盖 8 个真实交互环境(OS、DB、游戏等),评估维度全面
- 支持一键评测主流模型(GPT-4、ChatGPT 等),结果可复现
- 提供在线排行榜,方便横向对比和追踪进展
不足之处
- 环境模拟与真实世界仍有差距,生态位有限
- 文档/社区待观察
适用场景
- 学术研究:对比不同 LLM 的智能体能力
- 模型开发:定位模型在交互任务中的短板
- 选型参考:企业选择适合的 LLM 作为 Agent 底座
替代项目
ToolBench、ALFWorld、WebArena
上一篇:promptbench
下一篇:SuperCLUE
同类项目推荐
guardrails-llm-filter
开源
给大模型请求做脱敏,敏感数据不出本地
Прозрачный обратный прокси между вашими клиен···
openguardrails
开源
给 AI Agent 加本地规则、沙箱和网络管控三道闸
AI agent guardrails for every builder. Local rules, a sandbox and a firewall for you···
awesome-ai-safety
开源
一站式速查AI安全核心论文,快速入门不迷路
A curated list of papers & technical articles on AI Quality & Safety
confabulations
开源
测出RAG系统胡说八道,用人工验证问答对量化幻觉
Hallucinations (Confabulations) Document-Based Benchmark for RAG. Includes human-ver···
agentgg
开源
百个AI安全智能体,扫仓库和PR,自动挖漏洞
Open source agentic SAST. The engine behind hundreds of disclosed zero-days. 100+ AI···
skills-benchmarks
开源
给 AI 智能体技能上秤,跑分对比不靠嘴
chatgpt-failures
开源
看AI翻车现场,理性用大模型
Failure archive for ChatGPT and similar models
autoguardrails
开源
用 policy.md 自动搜索最优 LLM 护栏策略
Alignment-research scaffold (autoresearch-style) for LLM guardrails: search over a s···
Tracekit
开源
给 AI Agent 装行车记录仪,每步可查、篡改可发现
Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the ag···