项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 618
使用教程
环境要求
- Docker
- GPU 与磁盘空间
- 待评测的代理
安装与启动步骤
-
1打容器镜像
它靠容器隔离每次任务,先把标准镜像构建出来。
bash containers/build_container.sh standard -
2预下缓存
模型缓存要提前拉,任务里现拉基本会超时。
bash containers/download_hf_cache/download_hf_cache.sh -
3准备任务描述
每个任务是说明加验收脚本,按模板写一份。
-
4跑一轮评测
用同一批任务比不同代理的表现,才有可比性。
如何确认成功
同一批任务在两个代理上跑出可对比的分数,且失败样本能看到具体卡在哪一步
注意事项
- 它评的是代理给模型做后训练的能力,不是模型本身的水平。
- 镜像与缓存体积都很大,先看磁盘余量。
- 验收脚本写得好不好直接决定结论可信度。
- 任务耗时很长,跑全量前先用少量任务验通。
核心亮点
- 提供标准化评测协议,让不同CLI代理的后训练能力可横向对比
- 针对单卡H100的严苛资源限制,评测结果贴近真实硬件约束
- 自动化流程减少人工干预,提升评测的可复现性和效率
不足之处
- 项目处于早期,文档和社区支持待观察
- 评测场景聚焦于单卡和短时间,可能不覆盖大规模或长周期后训练任务
适用场景
- 研究人员对比不同AI代理的模型定制化能力
- 工程师在有限GPU资源下评估代理微调基础模型的可行性
- AI安全研究者考察代理后训练过程中的安全性和可控性
替代项目
OpenCompass、lm-evaluation-harness、AgentBench
上一篇:context-bombs
下一篇:Aegis
同类项目推荐
Offensive-Security-AI-Models
开源
找能聊攻防的开源模型,本地跑不拒答
Uncensored AI models or those fine-tuned for cybersecurity tasks.
Workspace-Bench
开源
在真实文件海洋中,检验智能体自我进化能力
Benchmark self-evolving Agent upon realistic large-scale file workspaces
AgentMark
开源
给AI智能体行为打上隐形水印,防止被盗用
【ACL 2026 Main】AgentMark: Utility-Preserving Behavioral Watermarking for Agents
evals-skills
开源
让编码代理手把手帮你搭产品专属 AI 评测
Skills that guide AI coding agents to help you build product-specific AI evals.
Awesome-LMMs-Mechanistic-Interpr···
开源
一站式读懂多模态模型内部工作原理
A curated collection of resources focused on the Mechanistic Interpretability (MI) o···
WatermarkDM
开源
给AI生成的图像打上隐形水印,一键溯源防滥用
[Tech report]: A Recipe for Watermarking Diffusion Models
hypoarena
开源
埋好因果链的合成文献,用 Elo 赛出谁能挖出真假设
Scientific hypothesis-discovery workbench: grounded hypothesis-evidence graphs, synt···
XSafeClaw
开源
给 AI 智能体装上安全盾,自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
semantic-object-accuracy-for-gen···
开源
评估生成图像中对象是否画对了,给文本到图像模型打分。
Code for "Semantic Object Accuracy for Generative Text-to-Image Synthesis" (TPAMI 20···
