agentevals

用追踪数据评估智能体,无需绑定框架

开源 🏷️定价信息待确认 ✅ 目前可打开 评测安全 🍴 复刻 28 🐛 待处理 21 👀 关注 1
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 169
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

agentevals 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队agentevals-dev
官网地址https://aevals.ai
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型agentevals,agents,evals,evaluation,genai,llm,llm-as-judge,opentelemetry,otel,tracing
GitHub 星标★ 169
上线时间2026-02-24 00:00:00
代码更新2026-11-05
仓库体积3.8 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-10
浏览次数7

项目介绍

agentevals 是一个与框架无关的 LLM 智能体评估解决方案,它基于 OpenTelemetry 追踪数据来工作。该项目解决的核心问题是:在复杂的智能体应用中,如何利用已有的可观测性数据(traces)来系统化地评估智能体的行为表现,而无需绑定特定开发框架。它提供了一套评估工具和库,能够从 OpenTelemetry 追踪中提取关键信息,支持 LLM-as-judge 等评估模式,帮助开发者量化智能体的决策质量、任务完成度等指标。其核心能力包括:基于追踪的自动化评估、与主流可观测性生态集成、灵活的评估逻辑定义。作为一个早期项目(154 星),它代表了将可观测性与评估结合的新方向,适合需要深度评估智能体行为的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 169

核心亮点

  • 基于 OpenTelemetry 追踪,天然适配可观测性生态,数据来源标准化
  • 框架无关设计,可评估 LangChain、LlamaIndex 等任意框架的智能体
  • 支持 LLM-as-judge 等灵活评估模式,适应复杂行为判断

不足之处

  • 早期项目,文档和社区生态尚待完善
  • 依赖 OpenTelemetry 追踪数据,未接入追踪的现有项目需改造

适用场景

  • 评估多步骤智能体任务完成质量
  • 在 CI/CD 中集成智能体回归测试
  • 对比不同提示词或模型对智能体行为的影响

替代项目

LangSmith、Braintrust、Promptfoo

上一篇:AutomationBench

下一篇:AgentEval

同类项目推荐

long-form-factuality 开源

测出大模型长篇回答里有多少真话

Benchmarking long-form factuality in large language models. Original code for our pa···

★ 698 2026-08-09
botium-core 开源

像用 Selenium 测网页一样,自动化测试你的聊天机器人

The Selenium for Chatbots - Bots Testing Bots

★ 250 2026-08-09
MLLM-Token-Compression 开源

一页看懂多模态大模型Token压缩方案怎么选

Towards Efficient Multimodal Large Language Models: A Survey on Token Compression

★ 230 2026-09-15
awesome-llm-agent-papers 开源

200+篇LLM智能体论文,按主题分类,助你快速掌握前沿。

LLM agents: curated papers on planning, memory, tool use, multi-agent systems, evalu···

★ 113 2026-08-09
safelabs-eval 开源

给 AI 智能体做红队体检,上线前先找出被越狱和注入的漏洞

Red-teaming and evaluation framework for AI agents, built around an OWASP-inspired A···

★ 807 2026-09-11
CUREBench 开源

给AI看病决策打分,推动医疗AI更靠谱

CUREBench @ NeurIPS 2025: Benchmarking AI reasoning for therapeutic decision-making ···

★ 136 2026-08-09
VBench 开源

给视频生成模型打分,16个维度看清谁强谁弱

[CVPR2024 Highlight] VBench - We Evaluate Video Generation

★ 1841 2026-08-09
hackagent 开源

给 AI 智能体做安全体检,提前发现漏洞防攻击

HackAgent is an open-source security toolkit to detect vulnerabilities of your AI Ag···

★ 535 2026-08-09