项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-23 · 当前星标 ★ 345
核心亮点
- 从需求描述自动生成行为级测试用例,减少手写评测集的成本
- 支持托管模型、可调用包装器、OTel 追踪 Agent 等多种目标,适配面广
- 本地优先产出评测产物,便于复现和接入 CI 流程
不足之处
- 项目处于早期,生态和文档完善度待观察
- 依赖 OTel 追踪时,对未接入追踪的 Agent 需要额外改造
适用场景
- Agent 上线前按业务需求做行为回归测试
- 在 CI 中对 LLM 应用做持续评测
- 对比多个模型或包装器在同一需求下的表现
替代项目
promptfoo、DeepEval
上一篇:Frontier-CS
下一篇:LLMEval-1
同类项目推荐
vidore-benchmark
开源
给文档检索模型打分,看谁找图找得准
Vision Document Retrieval (ViDoRe): Benchmark. Evaluation code for the ColPali paper···
Deco
开源
让多模态模型少说瞎话,动态纠错解码即插即用
[ICLR 2025] MLLM can see? Dynamic Correction Decoding for Hallucination Mitigation
harbor
开源
在真实终端里给智能体打分,让改进有据可依
Framework for evaluating and improving agents
circle-guard-bench
开源
给 LLM 防护系统打分,选最靠谱的护栏
First-of-its-kind AI benchmark for evaluating the protection capabilities of large l···
skills-benchmarks
开源
给 AI 智能体技能上秤,跑分对比不靠嘴
valqore
开源
给 AI 运维操作装上安全气囊,防止误操作搞垮云环境
Safety-first guardrails for AI-driven cloud and Kubernetes operations
OpenART
开源
万级场景压测 AI Agent,提前揪出越权与投毒风险
OpenART is an open-source framework designed to evaluate the safety and robustness o···
claw-eval
开源
接入模型跑人工校验任务,快速量化智能体能力
Claw-Eval is an evaluation harness for evaluating LLM as agents. All tasks verified ···
oss-fuzz-gen
开源
用大模型自动写模糊测试,一键发现代码漏洞
LLM powered fuzzing via OSS-Fuzz.
