AgentCompass

一套框架统一跑各家智能体评测,结果可横向对比

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 37 🐛 待处理 15
GitHub ↗
GitHub 星标 ★ 170
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,无在线服务

项目数据

分类评测安全
开发团队open-compass
定价模式🏷️完全免费
价格说明开源免费,无在线服务
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agent,benchmark-framework,claude-code,codex,evaluation-framework,harness
GitHub 星标★ 170
上线时间2025-09-04 00:00:00
代码更新2026-10-22
仓库体积12.3 MB
本站数据更新2026-10-23
维护状态活跃
收录时间2026-10-23
浏览次数0

项目介绍

AgentCompass 是一个面向 LLM/VLM 智能体的可扩展开源评测基础设施,论文被 EMNLP 2026 收录。它要解决的问题是:智能体能力评测目前高度碎片化,各家基准的 harness、打分逻辑和运行环境互不兼容,导致结果难以横向比较、复现成本高。项目提供统一的评测框架,把任务定义、智能体接入、执行环境和指标计算拆成可插拔模块,支持接入 Claude Code、Codex 等不同智能体实现,并覆盖纯文本与多模态两类模型。核心能力包括:标准化 harness 让同一套任务可在不同 agent 上跑出可比结果;可扩展的 benchmark 框架便于研究者新增任务与评测维度;面向能力维度的系统化评估而非单一分数。适合需要做 agent 选型对比、学术基准复现或自建评测流水线的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-10-23 · 当前星标 ★ 170

核心亮点

  • 提供标准化 harness,同一任务可在不同 agent 实现上复现,结果具备可比性
  • 评测框架模块化可扩展,新增任务、指标和智能体接入成本低
  • 同时覆盖 LLM 与 VLM 智能体,支持多模态能力评估

不足之处

  • 170 星早期项目,生态和第三方任务库尚不丰富
  • 文档与社区规模待观察,接入自定义 agent 可能需读源码

适用场景

  • 研究团队复现论文基准并横向对比多个 agent
  • 企业在选型时批量评测 Claude Code、Codex 等智能体
  • 团队自建持续集成的 agent 能力回归评测流水线

替代项目

SWE-bench、AgentBench

上一篇:uncheatable_eval

下一篇:MemoryAgentBench

同类项目推荐

claw-eval 开源

接入模型跑人工校验任务,快速量化智能体能力

Claw-Eval is an evaluation harness for evaluating LLM as agents. All tasks verified ···

★ 779 2026-09-14
XLingEval 开源

测测大模型用不同语言回答医疗问题的靠谱程度

Code and Resources for the paper, "Better to Ask in English: Cross-Lingual Evaluatio···

★ 348 2026-08-09
llm-eval 开源

一站式跑分,快速对比大模型与 RAG 效果

大语言模型评估平台,支持多种评估基准、自定义数据集和性能测试。支持基于自定义数据集的···

★ 100 2026-08-09
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 3036 2026-09-12
akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1531 2026-08-20
Lookback-Lens 开源

只看注意力图,就能揪出并压制模型胡编乱造

Code for the EMNLP 2024 paper "Detecting and Mitigating Contextual Hallucinations in···

★ 154 2026-08-09
jevals 开源

每条 trace 一次请求,几分钱延迟低到能进 Agent 循环

Agent evals and guardrails as Jev decisions: one request per trace, a fraction of a ···

★ 105 2026-10-03