eva

一套框架,全面衡量语音代理表现,快速定位短板。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 音频音乐 🍴 复刻 41 🐛 待处理 30 👀 关注 6
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 236
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源框架,MIT许可证,完全免费,可自行部署使用。

项目预览

eva 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类音频音乐
开发团队ServiceNow
定价模式🏷️完全免费
价格说明开源框架,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型agentic-ai,asr,evaluation-framework,machine-learning,nlp,speech-ai,tts,voice-agents,voice-ai
GitHub 星标★ 236
上线时间2026-03-24 00:00:00
代码更新2026-11-11
仓库体积757.4 MB
本站数据更新2026-11-11
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

eva 是一个用于评估语音代理(Voice Agents)的全新端到端框架。它解决的核心问题是:语音代理系统(如语音助手、对话机器人)在真实场景中的表现难以全面、客观地衡量。eva 提供了一整套评估工具和方法论,支持从语音识别(ASR)、自然语言理解(NLU)到语音合成(TTS)的完整链路评估,并针对 agentic AI 场景设计了专门的评测指标和流程。其核心能力包括:端到端的评估流水线、可扩展的测试场景定义、以及自动化的结果分析。通过 eva,开发者可以更高效地对比不同语音代理方案,定位系统瓶颈,从而加速产品迭代。该项目基于 Python 构建,适合集成到现有的机器学习或 NLP 工作流中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 236

核心亮点

  • 端到端评估,覆盖 ASR 到 TTS 全链路,避免单点测试盲区
  • 专为 agentic AI 设计,支持复杂对话场景的自动化评测
  • Python 实现,易于集成到现有 ML/NLP 开发流程

不足之处

  • 项目处于早期阶段(194 星),API 和功能可能不稳定
  • 文档和社区生态待观察,实际使用案例较少

适用场景

  • 语音助手开发中,对比不同 ASR/TTS 供应商组合的整体效果
  • 智能客服系统上线前,自动化回归测试对话流畅度与任务完成率
  • 研究语音代理评测方法论,作为学术实验的基准框架

替代项目

OpenAI Evals、Ragas、DeepEval

上一篇:RVCBench

下一篇:UltraEval-Audio

同类项目推荐

SWE-bench_Pro-os 开源

用长周期工程任务,真实测出 AI Agent 的软件工程上限

SWE-Bench Pro: Can AI Agents Solve Long-Horizon Software Engineering Tasks?

★ 559 2026-10-01
TrustEval-toolkit 开源

一键评估生成模型可信度,量化风险更安心

[ICLR'26, NAACL'25 Demo] Toolkit & Benchmark for evaluating the trustworthiness of g···

★ 136 2026-08-09
EvalForge 开源

给 AI 评测加回归门禁,指标一降 CI 就拦。

Evaluator-neutral AI evaluation evidence, baseline regression gates, and JSON, JUnit···

★ 194 2026-09-12
superagent 开源

给 AI 应用装上安全盾,防注入防泄露

Superagent protects your AI applications against prompt injections, data leaks, and ···

★ 6866 2026-08-09
MathVista 开源

测测AI看图算数行不行,一套基准见分晓

MathVista: data, code, and evaluation for Mathematical Reasoning in Visual Contexts

★ 368 2026-08-09
llm-leaderboard 开源

一站式对比LLM基准分数和价格,快速选型

A comprehensive set of LLM benchmark scores and provider prices. (deprecated, read m···

★ 356 2026-08-09
next-evals-oss 开源

给 AI 出 Next.js 考题,看它到底会不会写

Evals for Next.js up to 15.5.6 to test AI model competency at Next.js

★ 329 2026-09-14
crust 开源

给 AI Agent 装上行为拦截闸,危险操作发生前就挡住

Open Source AI Agent Security Infrastructure — intercepts and blocks dangerous agen···

★ 439 2026-10-31
Jailbreak-Foundry 开源

把越狱论文变成可跑的攻击测试,实时更新基准

A system that turns jailbreak papers into runnable attacks and benchmarks — live, a···

★ 174 2026-08-10