AutomationBench

测测你的AI智能体,能不能搞定真实业务流程

开源 🏷️定价信息待确认 ✅ 目前可打开 评测安全 🍴 复刻 67 🐛 待处理 36 👀 关注 3
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 378
维护状态 低维护
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

AutomationBench 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队zapier
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议NOASSERTION
主要语言Python
技术栈/模型benchmarks,evals,llm,primeintellect
GitHub 星标★ 378
上线时间2026-02-23 00:00:00
代码更新2026-08-04
仓库体积5.9 MB
本站数据更新2026-11-07
维护状态低维护
收录时间2026-08-10
浏览次数6

项目介绍

AutomationBench 是一个用于评估 AI 智能体在真实业务流程中表现的基准测试框架。它由 Prime Intellect 开发,主要解决当前 AI 智能体评测多集中在代码生成或简单问答、缺乏对复杂业务场景覆盖的问题。该框架提供了一套标准化的任务集和评估协议,涵盖如客户支持、数据录入、审批流程等典型业务操作,要求智能体在模拟环境中完成多步骤、需调用外部工具或API的流程。其核心能力包括:可复现的评估流程、细粒度的任务分解与评分、以及对智能体决策过程的可追踪性。通过该基准,开发者可以量化不同AI智能体在自动化业务处理上的能力差距,从而推动智能体在真实工作流中的可靠应用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 378

技术标签

核心亮点

  • 聚焦真实业务流程,评测任务贴近实际工作场景,而非简单问答或代码题
  • 提供标准化评估协议,便于横向对比不同AI智能体的业务处理能力
  • 支持任务分解和过程追踪,能定位智能体在哪个步骤失败

不足之处

  • 项目处于早期阶段,任务集覆盖范围有限,可能未涵盖所有行业流程
  • 文档和社区生态尚待完善,上手和扩展需要一定技术背景

适用场景

  • 企业选型:对比不同AI智能体产品在业务自动化上的实际表现
  • 模型研发:在开发智能体时,用基准测试迭代优化模型和提示词
  • 学术研究:研究AI智能体在复杂工作流中的决策和泛化能力

替代项目

AgentBench、OSWorld、WebArena

上一篇:benchflow

下一篇:agentevals

同类项目推荐

VibeSearchBench 开源

专治搜索系统'听不懂人话',用200个模糊任务测出真实力

The hardest search benchmark in the wild — vague, multi-turn, proactive. 200 long-h···

★ 106 2026-08-09
Awesome-Embodied-AI-Safety 开源

一网打尽具身AI安全研究,500+论文系统梳理

Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses | 500+ Papers | Perc···

★ 163 2026-08-09
sim-evals 开源

把机器人策略丢进仿真跑分,省下真机评测的麻烦

A simulation evaluation platform for DROID

★ 243 2026-09-14
vitest-evals 开源

用 Vitest 写 LLM 评测,像跑单测一样跑模型回归

A vitest extension for running evals.

★ 363 2026-09-14
TaskMeAnything 开源

自动生成多模态任务,全面评估模型能力

[NeurIPS 2024] A task generation and model evaluation system for multimodal languag···

★ 71 2026-08-09
RAGElo 开源

用 Elo 对战排名,快速选出最强 RAG 智能体

RAGElo is a set of tools that helps you selecting the best RAG-based LLM agents by u···

★ 133 2026-10-02
openai-guardrails-js 开源

给 LLM 应用加一道输入输出安检门,拦截越狱与敏感内容

OpenAI Guardrails - TypeScript / JavaScript

★ 113 2026-09-26
Tracely-ai 开源

把线上 agent 失败轨迹变成 CI 回归测试,退化就拦 PR

Trace-native CI/CD for AI agents: grade production traces, cluster failures, freeze ···

★ 977 2026-10-22
PromptMe 开源

10 个动手挑战,亲手打穿 LLM 安全漏洞

PromptMe is an educational project that showcases security vulnerabilities in large ···

★ 112 2026-09-15