every_eval_ever

把散落各处的 AI 评测结果统一成可比较的公共数据库

开源 🏷️完全免费 ⚠️ 链接可跳转,访问体验不确定 评测安全 🍴 复刻 54 🐛 待处理 44 👀 关注 3
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 138
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源共享评测数据库,免费使用

项目预览

every_eval_ever 项目界面预览图
图片来源:项目官网

项目数据

分类评测安全
开发团队evaleval
定价模式🏷️完全免费
价格说明开源共享评测数据库,免费使用
访问状态⚠️ 链接可跳转,访问体验不确定
是否开源是
开源协议MIT
主要语言Python
技术栈/模型agent-evaluation,ai-evaluation,evaluations,infra,llm-evaluation
GitHub 星标★ 138
上线时间2025-10-08 00:00:00
代码更新2026-10-30
仓库体积28.4 MB
本站数据更新2026-11-04
维护状态活跃
收录时间2026-09-14
浏览次数1

项目介绍

Every Eval Ever 是一个面向 AI 评测领域的共享元数据规范与众包评测数据库。它要解决的核心问题是:当前 AI 评测结果散落在各类排行榜、学术论文和本地评测脚本中,格式各异、字段不统一,导致不同框架产出的结果难以横向比较、复现和复用。项目定义了一套标准化的元数据格式,用来统一存储 AI 评测结果,覆盖从排行榜抓取、论文数据到本地评测运行等多种来源。配套的众包数据库让社区可以提交和共享评测记录,从而逐步积累成一个可检索、可对比的公共评测档案。核心能力包括:统一 schema 定义、结果来源标注、跨框架结果对齐,以及面向复现的元数据留存。项目用 Python 实现,定位偏向评测基础设施层,适合评测平台、模型团队和研究者作为数据交换的公共约定使用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 138

核心亮点

  • 定义统一元数据 schema,让不同评测框架的结果可以对齐比较
  • 支持排行榜抓取、论文数据和本地评测多种来源,覆盖面广
  • 众包数据库模式,社区可持续贡献并积累公共评测档案

不足之处

  • 项目处于早期,星标仅 112,生态和采用度有待观察
  • 众包数据的质量与一致性依赖社区维护,缺少强校验机制说明

适用场景

  • 评测平台汇总多个榜单结果做横向对比
  • 研究者在论文中发布可复现的评测元数据
  • 模型团队统一记录本地评测运行结果以便追踪

替代项目

HELM、lm-evaluation-harness

上一篇:evalstats

下一篇:benchmark-radar

同类项目推荐

TrustLLM 开源

给大模型做全面体检,量化可信度短板

[ICML 2024] TrustLLM: LLM trustworthiness evaluation across truthfulness, safety, fa···

★ 635 2026-08-09
terminal-bench-science 开源

让 AI 在终端里跑通真实科研任务并自动打分

Terminal-Bench-Science: Evaluating AI agents on research workflows across scientific···

★ 820 2026-09-22
MixEval 开源

动态更新评测数据,让模型分数不再虚高

The official evaluation suite and dynamic data release for MixEval.

★ 253 2026-08-09
Semia 开源

装 AI 技能前先扫一遍,把危险命令挡在门外

Semia, security audit for AI agent skills.

★ 616 2026-09-22
ai-jailbreaks 开源

现成越狱提示词库,快速测模型安全边界

AI jailbreaks: 35 paste-ready AI jailbreak prompts for 25+ frontier and open-weight ···

★ 550 2026-10-28
damn-vulnerable-ai-agent 开源

故意留洞的 AI Agent 靶场,拿来练提示注入和越权

Damn Vulnerable AI Agent is a deliberately vulnerable AI agent platform for security···

★ 147 2026-09-22