evals-skills

让编码代理手把手帮你搭产品专属 AI 评测

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 120 🐛 待处理 1 👀 关注 16
GitHub ↗
GitHub 星标 ★ 1707
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,定价信息待确认

项目预览

evals-skills 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队ai-evals-course
定价模式🏷️完全免费
价格说明开源免费,定价信息待确认
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
GitHub 星标★ 1707
上线时间2026-06-23 00:00:00
代码更新2026-10-24
仓库体积1.6 MB
本站数据更新2026-11-04
维护状态较活跃
收录时间2026-09-14
浏览次数1

项目介绍

evals-skills 是一组面向 AI 编码代理的技能包,帮助开发者为自己的产品构建专属的 AI 评测(evals)。它解决的核心问题是:通用评测框架往往只提供打分接口,而实际业务中真正难的是如何定义评测目标、设计测试用例、搭建可复现的评测流程。该项目把这些方法论沉淀成代理可执行的技能,让 Claude Code、Cursor 等编码代理在写代码时按步骤引导你完成评测设计、数据集构造、指标选择和结果分析。核心能力包括:面向产品场景的评测规划、测试用例与数据集生成、评测脚本编写指导、结果解读与迭代建议。它不绑定某个模型或框架,更像一套可被代理调用的评测工作流知识库,适合需要把评测落地到具体产品而非跑通用 benchmark 的团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 1707

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 5 分钟 部署方式:命令行工具 5 步

环境要求

  • 本机已安装 Node.js(安装命令使用 npx,随 Node.js 提供)
  • 一个支持技能调用的 AI 编码代理(如 Claude Code、Cursor)
  • 能访问 GitHub 与 npm 的网络环境

安装与启动步骤

  1. 1确认 Node 环境

    安装依赖 npx,它随 Node.js 一起提供,请先确保本机已装好 Node.js,否则 npx 命令无法执行。

  2. 2安装全部技能

    用 npx skills 从 GitHub 仓库拉取并安装整套 evals-skills 技能包到本地代理环境。

    npx skills add https://github.com/ai-evals-course/evals-skills
  3. 3只装单个技能

    若只想装某一个技能,在安装命令后加 --skill 并跟上技能名,例如 error-discovery。

    npx skills add https://github.com/ai-evals-course/evals-skills --skill error-discovery
  4. 4检查并更新

    日后可先检查是否有新版本,再执行更新,保持技能内容与仓库同步。

    npx skills check
    npx skills update
  5. 5从入口技能开始

    在编码代理里调用 evals-start 入口技能,它会判断你的情况并把你路由到合适的后续技能。

关键配置

配置项必填说明示例
--skill否指定只安装某一个技能,不写则安装全部error-discovery

如何确认成功

在编码代理中触发 evals-start,若它把你路由到 eval-audit 或 error-discovery,说明技能已装好可用。

常见问题

Q:只想安装一个技能怎么办?

A:在安装命令后追加 --skill 加技能名,例如 npx skills add https://github.com/ai-evals-course/evals-skills --skill error-discovery。

Q:已有评测流程该从哪个技能入手?

A:统一从 evals-start 入口开始,它会根据你的现状路由,已有评测管线通常会引导到 eval-audit 做检查并给出下一步建议。

Q:有 trace 但还没分析过,用哪个技能?

A:用 error-discovery,它会搭建定制化的标注界面并帮你智能采样 trace。

Q:这是用来测基础模型的基准吗?

A:不是。这些技能面向产品专属的 AI evals,而非基础模型基准测试。

Q:怎么获取后续更新?

A:执行 npx skills check 查看更新,再执行 npx skills update 完成升级。

注意事项

  • 安装命令来自 README 的 npx skills 工具,README 未给出 Node.js 版本要求
  • 技能不绑定特定模型或框架,属于可被代理调用的评测工作流知识库
  • 技能需要在支持此类技能的编码代理中调用才能生效
  • eval-audit 只能发现常见问题,并非完整的评测解决方案

核心亮点

  • 把评测方法论封装成代理可执行技能,降低从零设计评测的门槛
  • 面向产品专属场景,而非只跑通用 benchmark,更贴近真实业务
  • 与主流编码代理配合使用,无需额外搭建评测平台即可起步

不足之处

  • 项目处于早期,技能覆盖范围和成熟度有待验证
  • 依赖代理本身的执行质量,评测结果一致性可能不稳定

适用场景

  • 为客服机器人搭建专属评测集并定义通过标准
  • 给 RAG 应用设计检索与回答质量的评测流程
  • 在编码代理辅助下快速生成评测脚本与测试用例

替代项目

promptfoo、OpenAI Evals

上一篇:gbrain-evals

下一篇:sim-evals

同类项目推荐

awesome-ml-monitoring 开源

找ML监控工具,看这个清单就够了

A curated list of awesome open source tools and commercial products for monitoring d···

★ 96 2026-08-09
ragas 开源

给 LLM 应用打分,快速定位 RAG 短板

Supercharge Your LLM Application Evaluations

★ 16230 2026-08-09
lmms-eval 开源

一套工具搞定文本/图像/视频/音频模型评测,结果可复现

One-for-All Multimodal Evaluation Toolkit Across Text, Image, Video, and Audio Tasks

★ 4482 2026-08-09
baple 开源

用提示学习给医学AI模型植入后门,验证安全漏洞

[MICCAI 2024] Official code repository of paper titled "BAPLe: Backdoor Attacks on M···

★ 57 2026-08-09
awesome-jev-tools 开源

一页清单,快速找到 Jev 类型化决策的现成工具

A curated list of tools built for Jev — TypeSafe AI's System One model for typed d···

★ 753 2026-10-04
lmring 开源

自建 LLM 竞技场,让真实用户投票选出最强模型

Open-source, self-hostable LLM arena with model compare, voting, and leaderboards

★ 210 2026-08-09
ICSFSurvey 开源

一图看懂大模型自我修正与推理增强全领域

Explore concepts like Self-Correct, Self-Refine, Self-Improve, Self-Contradict, Self···

★ 171 2026-08-09