ClawProBench

在真实 OpenClaw 里反复跑 Agent,用确定性打分比出谁更稳

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 54 👀 关注 12
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 829
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源基准测试工具,免费使用

项目预览

ClawProBench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队suyoumo
定价模式🏷️完全免费
价格说明开源基准测试工具,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型agent,benchmark,evaluation,harness,leaderboard,llm,openclaw
GitHub 星标★ 829
上线时间2025-03-02 00:00:00
代码更新2026-08-25
仓库体积36.8 MB
本站数据更新2026-11-03
维护状态维护中
收录时间2026-09-16
浏览次数1

项目介绍

ClawProBench 是一个面向 LLM Agent 的评测基准框架,专门针对 OpenClaw 运行时环境设计。它解决的核心问题是:当前多数 Agent 评测依赖静态数据集或一次性运行结果,难以反映真实运行环境下的稳定性与可复现性。ClawProBench 采用 live-first 思路,在真实 OpenClaw 运行时中执行 Agent 任务,并通过确定性评分机制和重复试验来量化可靠性,而不是只看单次成功率。项目用 Rust 编写,强调执行效率与结果一致性,提供 harness 化的评测流程,可对接排行榜,适合需要横向对比不同 Agent 策略、模型或工具调用方案的研究者与工程团队。其核心能力包括:在 OpenClaw 环境中驱动 Agent 完成任务、对输出做确定性判分、通过多次重复试验统计稳定性指标,并支持将结果汇总为可比较的榜单数据。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 829

使用教程

难度:进阶 约 25 分钟 部署方式:命令行安装 4 步

环境要求

  • Python 3.10+
  • OpenClaw CLI
  • uv

安装与启动步骤

  1. 1装环境

    OpenClaw 的基准评测套件,用 uv 管依赖。

    pip install uv
    uv pip install -r requirements.txt
  2. 2查清单

    先看可用基准与 profile。

    python3 run.py inventory
  3. 3空跑一遍

    dry 模式不真执行,只校验配置。

    python3 run.py dry
  4. 4正式跑

    默认走 core profile,覆盖率更高用 active。

    python3 run.py run --profile core

如何确认成功

results 目录下有结构化报告,评分可复现。

注意事项

  • 它强调确定性判分,不靠模型自评。
  • inventory --json 便于接自动化。
  • compare 子命令可以对比两次结果。

核心亮点

  • live-first 设计,在真实 OpenClaw 运行时评测而非离线数据集,结果更贴近实际部署表现
  • 引入重复试验与确定性评分,能区分偶然成功和稳定可靠,弥补单次评测的偏差
  • 用 Rust 实现,执行效率和资源控制较好,适合批量重复跑评测任务

不足之处

  • 强绑定 OpenClaw 运行时,换其他 Agent 框架时迁移成本高
  • 早期项目,823 星标,生态与文档完善度待观察

适用场景

  • 对比不同 LLM 在 OpenClaw 中执行多步工具调用任务的稳定性
  • 为 Agent 策略迭代提供可复现的回归评测与排行榜数据
  • 在 CI 流程中定期跑 Agent 基准,监控模型或提示词变更带来的可靠性波动

替代项目

SWE-bench、AgentBench、WebArena

上一篇:ollama-grid-search

下一篇:dingo

同类项目推荐

AgentMark 开源

给AI智能体行为打上隐形水印,防止被盗用

【ACL 2026 Main】AgentMark: Utility-Preserving Behavioral Watermarking for Agents

★ 100 2026-08-09
anonymeter 开源

合成数据上线前,用 GDPR 视角量化隐私泄露风险

A Unified Framework for Quantifying Privacy Risk in Synthetic Data according to the ···

★ 110 2026-08-10
CUREBench 开源

给AI看病决策打分,推动医疗AI更靠谱

CUREBench @ NeurIPS 2025: Benchmarking AI reasoning for therapeutic decision-making ···

★ 136 2026-08-09
UltraText_Bench 开源

给文生图模型做中英文写字能力体检

[Preprint] UltraText Bench: A Comprehensive Bilingual Benchmark for Evaluating Visua···

★ 114 2026-10-23
LooGLE 开源

测长文本模型真实力,看它能否抓住长文关键

ACL 2024 | LooGLE: Long Context Evaluation for Long-Context Language Models

★ 201 2026-08-09
agentic_security 开源

给大模型应用做安全体检,自动发现漏洞并生成报告

Agentic LLM Vulnerability Scanner / AI red teaming kit

★ 2040 2026-08-09
every_eval_ever 开源

把散落各处的 AI 评测结果统一成可比较的公共数据库

Every Eval Ever is a shared schema and crowdsourced eval database. It defines a stan···

★ 138 2026-09-14
agentevals 开源

用追踪数据评估智能体,无需绑定框架

agentevals is a framework-agnostic evaluations solution based on OpenTelemetry trace···

★ 168 2026-08-10
ProteinWorkshop 开源

统一蛋白质表示学习的数据、模型与评测流程

Benchmarking framework for protein representation learning. Includes a large number ···

★ 279 2026-10-31