
awesome-evals
一站式收藏 AI 智能体评估资源,告别信息筛选烦恼。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 1031
使用教程
⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。
⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。
环境要求
- 可访问 GitHub 的网络环境
- 已安装 git(用于克隆仓库)
- 任意可阅读 Markdown 的编辑器或浏览器
安装与启动步骤
-
1克隆仓库
把 awesome-evals 资源列表仓库下载到本地,README 未提供其他安装方式,克隆即可使用。
git clone https://github.com/benchflow-ai/awesome-evals.git -
2进入目录
切换到仓库根目录,后续所有文档都在该目录下阅读。
cd awesome-evals -
3阅读主列表
打开 README.md,按目录浏览 443+ 条经过注释与校验的资源,注意 与 ⚠️ 标记含义。
-
4查阅实战手册
打开 PATTERNS.md,查看 LLM-as-judge、pass@k、错误分析等可运行示例代码。
-
5浏览深读笔记
进入 notes/ 目录阅读 143 篇深读笔记,按章节定位感兴趣的主题。
如何确认成功
能在本地打开 README.md 并看到完整目录与 443+ 条资源条目即表示可用。
常见问题
Q:这个项目需要安装依赖或启动服务吗?
A:不需要。它是一个资源列表仓库,README 未给出任何安装、构建或启动命令,克隆后直接阅读 Markdown 文档即可。
Q:README 里的工具要怎么用?
A:README 只是收录并注释外部工具与论文的链接,具体安装使用需前往对应项目自己的仓库或官网查看说明。
Q:如何贡献新资源?
A:README 提示欢迎贡献,参见仓库根目录下的 CONTRIBUTING.md 了解提交方式。
Q:和 ⚠️ 标记是什么意思?
A:表示 2025–2026 年发布或更新,⚠️ 表示存在需要注意的警告或局限。
注意事项
- 本项目仅为精选资源列表,不含可执行代码或服务,无需 Docker、包管理器等部署流程。
- README 中的命令示例仅出现在 PATTERNS.md 手册里,属于评测方法示例,不是本项目的安装步骤。
- 部分收录工具标注为不再积极维护(如 simple-evals、HF evaluate),选用前请留意 ⚠️ 提示。
核心亮点
- 精选高质量资源,避免信息噪音,节省筛选时间
- 覆盖论文、博客、工具、基准等多维度内容,体系完整
- 由 BenchFlow 维护,持续更新,紧跟领域发展
不足之处
- 文档/社区待观察
- 资源列表形式,缺乏深度内容或实践指导
适用场景
- 快速了解 AI 智能体评估领域的研究现状与工具生态
- 为构建智能体评估方案寻找参考基准与灵感
- 跟踪最新评估技术,保持知识更新
替代项目
awesome-llm-evaluation、awesome-ai-agents、evaluation-harness
同类项目推荐
llm-colosseum
开源
让大模型打街霸,用对战胜负测实力
Benchmark LLMs by fighting in Street Fighter 3! The new way to evaluate the quality ···
llm_chess
开源
让大模型下棋,测出推理和守规则的真实水平
LLM Chess - evaluating Large Language Models' reasoning and instruction-following ab···
promptmap
开源
给 LLM 应用做安全体检,防提示注入攻击
a security scanner for custom LLM applications
sample-agent-cost-bench
开源
横向评测编程代理的成本、质量与耗时
Benchmark framework that measures cost, quality, and duration of coding agents acros···
Awesome-Video-Reasoning
开源
视频生成推理论文一站速查,快速摸清研究地图
This is a collection of recent papers on reasoning in video generation models.
AutoControl-Arena
开源
自动给AI找茬,提前暴露危险行为
[ICML 2026] AutoControl Arena: Frontier AI Risk Auto-Discovery Platform
TAB
开源
统一评测时间序列异常检测方法,公平对比选最优
[PVLDB 2025] TAB: Unified Benchmarking of Time Series Anomaly Detection Methods
heretic
开源
一键去除模型审查,解锁无限制回答
Training-free language model modification: Remove censorship, suppress slop, reduce ···
open-bias
开源
给 AI Agent 加一道策略防火墙,违规请求当场拦截
Open Source policy enforcement proxy: Make your agents follow rules.