aws-bench

给AI智能体在真实AWS云上打分的基准测试

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 智能体 🍴 复刻 25 🐛 待处理 29 👀 关注 2
GitHub ↗
GitHub 星标 ★ 144
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,完全免费,可自行部署使用。

项目预览

aws-bench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类智能体
开发团队aws-bench
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型ai-agents,aws,benchmark
GitHub 星标★ 144
上线时间2026-07-14 00:00:00
代码更新2026-11-06
仓库体积2.6 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-09
浏览次数3

项目介绍

aws-bench 是一个用于评估 AI 智能体在真实 AWS 云环境中执行任务能力的基准测试工具。它针对云运维场景,如诊断配置错误、部署基础设施和操作实时云环境,量化不同智能体与模型组合的表现。该项目通过模拟或调用真实 AWS 服务,提供标准化的测试任务集和评分机制,帮助开发者对比和优化智能体的云操作能力。其核心价值在于填补了云原生智能体评测的空白,将抽象智能体能力转化为可量化的云任务成功率、效率和安全性指标。目前项目处于早期阶段,星标数较少,但定位清晰,专注于 AWS 生态,为后续扩展到多云或更多场景提供了基础。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 144

技术标签

核心亮点

  • 聚焦真实云运维场景,评测结果贴近生产环境
  • 提供标准化任务集,便于横向对比不同智能体
  • 基于Python实现,易于扩展和集成到现有CI/CD流程

不足之处

  • 仅支持AWS,未覆盖其他云平台
  • 文档/社区待观察

适用场景

  • AI智能体云运维能力评测与选型
  • 模型在工具调用与多步任务上的性能对比
  • 云自动化Agent开发中的回归测试

替代项目

GAIA、AgentBench、ToolBench

上一篇:DeepSec

下一篇:skill-up

同类项目推荐

search-arena 开源

量化分析搜索增强大模型,看清能力边界

⚔️ [ICLR 2026] Official code of "Search Arena: Analyzing Search-Augmented LLMs".

★ 61 2026-08-09
merchantbench 开源

365天订单级仿真,测LLM智能体长期经营是否前后一致

MerchantBench is a 365-day, order-level benchmark for evaluating the long-term coher···

★ 172 2026-11-06
Awesome-LLM-Eval 开源

一站式找全 LLM 评测资源,快速选型不踩坑

Awesome-LLM-Eval: a curated list of tools, datasets/benchmark, demos, leaderboard, p···

★ 659 2026-08-09
gpt6-Astra 开源

一个工作台集中测试各大模型的越狱与安全边界

gpt6 Astra-claude-grok4.7-deepseekv4.1flash-glm5.3-gemini破甲越狱 · 冷咖啡 BREAK//O···

★ 2065 2026-10-17
evalstats 开源

小样本评测也能算出模型差异是否真实

Statistical inference for AI evaluations, from model comparisons to corrections for ···

★ 132 2026-09-14
hash-hop 开源

自动生成超长文本定位题,快速测出模型长上下文真本事

Long context evaluation for large language models

★ 228 2026-09-25
AlgoTune 开源

写更快的代码,用154道题检验你的算法优化能力

AlgoTune is a NeurIPS 2025 benchmark made up of 154 math, physics, and computer scie···

★ 119 2026-08-09
athina-evals 开源

给 LLM 响应做质检,快速发现模型输出问题

Python SDK for running evaluations on LLM generated responses

★ 302 2026-08-09