项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 829
使用教程
环境要求
- Python 3.10+
- OpenClaw CLI
- uv
安装与启动步骤
-
1装环境
OpenClaw 的基准评测套件,用 uv 管依赖。
pip install uv uv pip install -r requirements.txt -
2查清单
先看可用基准与 profile。
python3 run.py inventory -
3空跑一遍
dry 模式不真执行,只校验配置。
python3 run.py dry -
4正式跑
默认走 core profile,覆盖率更高用 active。
python3 run.py run --profile core
如何确认成功
results 目录下有结构化报告,评分可复现。
注意事项
- 它强调确定性判分,不靠模型自评。
- inventory --json 便于接自动化。
- compare 子命令可以对比两次结果。
核心亮点
- live-first 设计,在真实 OpenClaw 运行时评测而非离线数据集,结果更贴近实际部署表现
- 引入重复试验与确定性评分,能区分偶然成功和稳定可靠,弥补单次评测的偏差
- 用 Rust 实现,执行效率和资源控制较好,适合批量重复跑评测任务
不足之处
- 强绑定 OpenClaw 运行时,换其他 Agent 框架时迁移成本高
- 早期项目,823 星标,生态与文档完善度待观察
适用场景
- 对比不同 LLM 在 OpenClaw 中执行多步工具调用任务的稳定性
- 为 Agent 策略迭代提供可复现的回归评测与排行榜数据
- 在 CI 流程中定期跑 Agent 基准,监控模型或提示词变更带来的可靠性波动
替代项目
SWE-bench、AgentBench、WebArena
下一篇:dingo
同类项目推荐
AgentMark
开源
给AI智能体行为打上隐形水印,防止被盗用
【ACL 2026 Main】AgentMark: Utility-Preserving Behavioral Watermarking for Agents
anonymeter
开源
合成数据上线前,用 GDPR 视角量化隐私泄露风险
A Unified Framework for Quantifying Privacy Risk in Synthetic Data according to the ···
CUREBench
开源
给AI看病决策打分,推动医疗AI更靠谱
CUREBench @ NeurIPS 2025: Benchmarking AI reasoning for therapeutic decision-making ···
UltraText_Bench
开源
给文生图模型做中英文写字能力体检
[Preprint] UltraText Bench: A Comprehensive Bilingual Benchmark for Evaluating Visua···
LooGLE
开源
测长文本模型真实力,看它能否抓住长文关键
ACL 2024 | LooGLE: Long Context Evaluation for Long-Context Language Models
agentic_security
开源
给大模型应用做安全体检,自动发现漏洞并生成报告
Agentic LLM Vulnerability Scanner / AI red teaming kit
every_eval_ever
开源
把散落各处的 AI 评测结果统一成可比较的公共数据库
Every Eval Ever is a shared schema and crowdsourced eval database. It defines a stan···
agentevals
开源
用追踪数据评估智能体,无需绑定框架
agentevals is a framework-agnostic evaluations solution based on OpenTelemetry trace···
ProteinWorkshop
开源
统一蛋白质表示学习的数据、模型与评测流程
Benchmarking framework for protein representation learning. Includes a large number ···
