agent-skills-eval

跑一遍测试,就知道你的 AI 技能行不行

agent-skills-eval 是一个用于测试 AI 智能体技能(Agent Skills)的测试运行器,灵感来自 agentskills.io。它解决的核心问题是:当开发者基于 OpenAI 兼容接口构建智能体技能时,缺乏一套标准化的评测工具来验证技能是否按预期工作。该项目提供 CLI 工具,通过 YAML 定义测试用例,以 JSONL 格式输出评测结果,支持与主流 LLM 接口对接。其核心能力包括:定义多步骤测试场景、自动执行智能体调用、对输出进行断言校验、生成结构化报告。它帮助开发者在开发周期中快速回归测试智能体行为,确保技能更新不破坏已有功能,从而提升智能体开发的可靠性和迭代效率。项目采用 TypeScript 编写,设计简洁,易于集成到 CI/CD 流程中。

开源 free 智能体
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 792
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类智能体
开发团队darkrishabh
所属国家
定价模式free
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型agent-evals,agent-skills,agentskills,ai-agents,cli,jsonl,llm-evals,llm-evaluation,openai-compatible,typescript,yaml
GitHub 星标★ 792
30天Star增速
HF 下载量
上线时间2026-05-06 00:00:00
最近更新2026-09-22 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数5

使用教程

核心亮点

  • 基于 YAML 定义测试用例,上手简单,无需写代码
  • 输出 JSONL 格式结果,方便后续分析和可视化
  • 支持 OpenAI 兼容接口,可直接对接主流 LLM 服务

不足之处

  • 文档/社区待观察
  • 仅支持 OpenAI 兼容接口,对其他推理框架支持有限

适用场景

  • 智能体技能开发中的回归测试
  • CI/CD 流水线中自动评估技能质量
  • 对比不同提示词或模型配置下的技能表现

替代项目

promptfoo、DeepEval、LangSmith

项目介绍

agent-skills-eval 是评测安全领域的开源项目,由 darkrishabh 开发,是 2026 年新上线的项目。

在全站 13,090 个收录项目中,它的 GitHub 星标数(792)位列前 30%,在评测安全分类中处于中上游。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-22。MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:智能体技能开发中的回归测试。同类可对比的替代方案包括 promptfoo、DeepEval、LangSmith。

上一篇:AgentHound

下一篇:empirica

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1517 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 2937 2026-09-12