awesome-evals

一站式收藏 AI 智能体评估资源,告别信息筛选烦恼。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 148 🐛 待处理 83 👀 关注 1
GitHub ↗
GitHub 星标 ★ 1031
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源资源列表,完全免费,无付费版本。

项目预览

awesome-evals 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队benchflow-ai
定价模式🏷️完全免费
价格说明开源资源列表,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议NOASSERTION
技术栈/模型agent-evaluation,ai-agents,awesome,awesome-list,benchmarks,evals,llm,llm-evaluation,rl-environments
GitHub 星标★ 1031
上线时间2026-06-24 00:00:00
代码更新2026-11-04
仓库体积1.5 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-10
浏览次数7

项目介绍

这是一个由 BenchFlow 维护的精选资源列表,专注于 AI 智能体的构建与评估。它汇集了论文、博客、演讲、工具和基准测试等高质量资源,旨在为开发者提供一份去芜存菁的指南,解决 AI 评估领域信息分散、质量参差不齐的问题。项目核心能力在于系统性地整理和分类相关资源,覆盖从基础概念到前沿研究的各个方面,帮助用户快速定位所需信息,提升 AI 智能体开发与评估的效率。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 1031

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:入门 约 5 分钟 部署方式:本地安装 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • 可访问 GitHub 的网络环境
  • 已安装 git(用于克隆仓库)
  • 任意可阅读 Markdown 的编辑器或浏览器

安装与启动步骤

  1. 1克隆仓库

    把 awesome-evals 资源列表仓库下载到本地,README 未提供其他安装方式,克隆即可使用。

    git clone https://github.com/benchflow-ai/awesome-evals.git
  2. 2进入目录

    切换到仓库根目录,后续所有文档都在该目录下阅读。

    cd awesome-evals
  3. 3阅读主列表

    打开 README.md,按目录浏览 443+ 条经过注释与校验的资源,注意 与 ⚠️ 标记含义。

  4. 4查阅实战手册

    打开 PATTERNS.md,查看 LLM-as-judge、pass@k、错误分析等可运行示例代码。

  5. 5浏览深读笔记

    进入 notes/ 目录阅读 143 篇深读笔记,按章节定位感兴趣的主题。

如何确认成功

能在本地打开 README.md 并看到完整目录与 443+ 条资源条目即表示可用。

常见问题

Q:这个项目需要安装依赖或启动服务吗?

A:不需要。它是一个资源列表仓库,README 未给出任何安装、构建或启动命令,克隆后直接阅读 Markdown 文档即可。

Q:README 里的工具要怎么用?

A:README 只是收录并注释外部工具与论文的链接,具体安装使用需前往对应项目自己的仓库或官网查看说明。

Q:如何贡献新资源?

A:README 提示欢迎贡献,参见仓库根目录下的 CONTRIBUTING.md 了解提交方式。

Q:和 ⚠️ 标记是什么意思?

A:表示 2025–2026 年发布或更新,⚠️ 表示存在需要注意的警告或局限。

注意事项

  • 本项目仅为精选资源列表,不含可执行代码或服务,无需 Docker、包管理器等部署流程。
  • README 中的命令示例仅出现在 PATTERNS.md 手册里,属于评测方法示例,不是本项目的安装步骤。
  • 部分收录工具标注为不再积极维护(如 simple-evals、HF evaluate),选用前请留意 ⚠️ 提示。

核心亮点

  • 精选高质量资源,避免信息噪音,节省筛选时间
  • 覆盖论文、博客、工具、基准等多维度内容,体系完整
  • 由 BenchFlow 维护,持续更新,紧跟领域发展

不足之处

  • 文档/社区待观察
  • 资源列表形式,缺乏深度内容或实践指导

适用场景

  • 快速了解 AI 智能体评估领域的研究现状与工具生态
  • 为构建智能体评估方案寻找参考基准与灵感
  • 跟踪最新评估技术,保持知识更新

替代项目

awesome-llm-evaluation、awesome-ai-agents、evaluation-harness

上一篇:harbor

下一篇:benchflow

同类项目推荐

llm-colosseum 开源

让大模型打街霸,用对战胜负测实力

Benchmark LLMs by fighting in Street Fighter 3! The new way to evaluate the quality ···

★ 1486 2026-08-09
llm_chess 开源

让大模型下棋,测出推理和守规则的真实水平

LLM Chess - evaluating Large Language Models' reasoning and instruction-following ab···

★ 139 2026-09-15
promptmap 开源

给 LLM 应用做安全体检,防提示注入攻击

a security scanner for custom LLM applications

★ 1294 2026-08-09
sample-agent-cost-bench 开源

横向评测编程代理的成本、质量与耗时

Benchmark framework that measures cost, quality, and duration of coding agents acros···

★ 109 2026-10-27
Awesome-Video-Reasoning 开源

视频生成推理论文一站速查,快速摸清研究地图

This is a collection of recent papers on reasoning in video generation models.

★ 168 2026-10-26
AutoControl-Arena 开源

自动给AI找茬,提前暴露危险行为

[ICML 2026] AutoControl Arena: Frontier AI Risk Auto-Discovery Platform

★ 105 2026-08-09
TAB 开源

统一评测时间序列异常检测方法,公平对比选最优

[PVLDB 2025] TAB: Unified Benchmarking of Time Series Anomaly Detection Methods

★ 146 2026-08-09
heretic 开源

一键去除模型审查,解锁无限制回答

Training-free language model modification: Remove censorship, suppress slop, reduce ···

★ 40088 2026-08-09
open-bias 开源

给 AI Agent 加一道策略防火墙,违规请求当场拦截

Open Source policy enforcement proxy: Make your agents follow rules.

★ 139 2026-10-09