
evals-skills
让编码代理手把手帮你搭产品专属 AI 评测
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 1707
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 本机已安装 Node.js(安装命令使用 npx,随 Node.js 提供)
- 一个支持技能调用的 AI 编码代理(如 Claude Code、Cursor)
- 能访问 GitHub 与 npm 的网络环境
安装与启动步骤
-
1确认 Node 环境
安装依赖 npx,它随 Node.js 一起提供,请先确保本机已装好 Node.js,否则 npx 命令无法执行。
-
2安装全部技能
用 npx skills 从 GitHub 仓库拉取并安装整套 evals-skills 技能包到本地代理环境。
npx skills add https://github.com/ai-evals-course/evals-skills -
3只装单个技能
若只想装某一个技能,在安装命令后加 --skill 并跟上技能名,例如 error-discovery。
npx skills add https://github.com/ai-evals-course/evals-skills --skill error-discovery -
4检查并更新
日后可先检查是否有新版本,再执行更新,保持技能内容与仓库同步。
npx skills check npx skills update -
5从入口技能开始
在编码代理里调用 evals-start 入口技能,它会判断你的情况并把你路由到合适的后续技能。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
--skill | 否 | 指定只安装某一个技能,不写则安装全部 | error-discovery |
如何确认成功
在编码代理中触发 evals-start,若它把你路由到 eval-audit 或 error-discovery,说明技能已装好可用。
常见问题
Q:只想安装一个技能怎么办?
A:在安装命令后追加 --skill 加技能名,例如 npx skills add https://github.com/ai-evals-course/evals-skills --skill error-discovery。
Q:已有评测流程该从哪个技能入手?
A:统一从 evals-start 入口开始,它会根据你的现状路由,已有评测管线通常会引导到 eval-audit 做检查并给出下一步建议。
Q:有 trace 但还没分析过,用哪个技能?
A:用 error-discovery,它会搭建定制化的标注界面并帮你智能采样 trace。
Q:这是用来测基础模型的基准吗?
A:不是。这些技能面向产品专属的 AI evals,而非基础模型基准测试。
Q:怎么获取后续更新?
A:执行 npx skills check 查看更新,再执行 npx skills update 完成升级。
注意事项
- 安装命令来自 README 的 npx skills 工具,README 未给出 Node.js 版本要求
- 技能不绑定特定模型或框架,属于可被代理调用的评测工作流知识库
- 技能需要在支持此类技能的编码代理中调用才能生效
- eval-audit 只能发现常见问题,并非完整的评测解决方案
核心亮点
- 把评测方法论封装成代理可执行技能,降低从零设计评测的门槛
- 面向产品专属场景,而非只跑通用 benchmark,更贴近真实业务
- 与主流编码代理配合使用,无需额外搭建评测平台即可起步
不足之处
- 项目处于早期,技能覆盖范围和成熟度有待验证
- 依赖代理本身的执行质量,评测结果一致性可能不稳定
适用场景
- 为客服机器人搭建专属评测集并定义通过标准
- 给 RAG 应用设计检索与回答质量的评测流程
- 在编码代理辅助下快速生成评测脚本与测试用例
替代项目
promptfoo、OpenAI Evals
上一篇:gbrain-evals
下一篇:sim-evals
同类项目推荐
awesome-ml-monitoring
开源
找ML监控工具,看这个清单就够了
A curated list of awesome open source tools and commercial products for monitoring d···
ragas
开源
给 LLM 应用打分,快速定位 RAG 短板
Supercharge Your LLM Application Evaluations
lmms-eval
开源
一套工具搞定文本/图像/视频/音频模型评测,结果可复现
One-for-All Multimodal Evaluation Toolkit Across Text, Image, Video, and Audio Tasks
text2image-benchmark
开源
一键跑分,量化你的文生图模型实力
Benchmark for generative image models
baple
开源
用提示学习给医学AI模型植入后门,验证安全漏洞
[MICCAI 2024] Official code repository of paper titled "BAPLe: Backdoor Attacks on M···
awesome-jev-tools
开源
一页清单,快速找到 Jev 类型化决策的现成工具
A curated list of tools built for Jev — TypeSafe AI's System One model for typed d···
lmring
开源
自建 LLM 竞技场,让真实用户投票选出最强模型
Open-source, self-hostable LLM arena with model compare, voting, and leaderboards
ICSFSurvey
开源
一图看懂大模型自我修正与推理增强全领域
Explore concepts like Self-Correct, Self-Refine, Self-Improve, Self-Contradict, Self···
LLM-Agent-Evaluation-Survey
开源
一库收齐智能体评测论文,快速摸清评测方法
Top papers related to LLM-based agent evaluation