PostTrainBench

一张H100,十小时,测出AI代理调教大模型的本事

开源 🏷️定价信息待确认 ✅ 目前可打开 评测安全 🍴 复刻 71 🐛 待处理 24 👀 关注 7
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 618
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

PostTrainBench 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队aisa-group
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-research-automation,ai-safety,claude-code,codex-cli,gemini-cli,post-training
GitHub 星标★ 618
上线时间2025-11-28 00:00:00
代码更新2026-11-08
仓库体积16.1 MB
本站数据更新2026-11-09
维护状态活跃
收录时间2026-08-10
浏览次数6

项目介绍

PostTrainBench 是一个用于评测命令行 AI 编程代理(如 Claude Code、Codex CLI、Gemini CLI)在单张 H100 GPU 上、10 小时内对基础大模型进行后训练(post-training)能力的基准测试框架。它解决了当前缺乏标准化、可复现的代理后训练评测问题,为研究者和工程师提供了一套统一的测试协议,包括任务定义、数据集、评估指标和自动化流程。核心能力包括:自动化运行代理进行微调或对齐实验、监控资源消耗、量化模型性能提升,并支持多代理横向对比。该项目旨在推动 AI 代理在模型定制化场景中的应用,降低后训练门槛,同时关注安全性和可复现性。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 618

使用教程

难度:高级 约 120 分钟 部署方式:Docker部署 4 步

环境要求

  • Docker
  • GPU 与磁盘空间
  • 待评测的代理

安装与启动步骤

  1. 1打容器镜像

    它靠容器隔离每次任务,先把标准镜像构建出来。

    bash containers/build_container.sh standard
  2. 2预下缓存

    模型缓存要提前拉,任务里现拉基本会超时。

    bash containers/download_hf_cache/download_hf_cache.sh
  3. 3准备任务描述

    每个任务是说明加验收脚本,按模板写一份。

  4. 4跑一轮评测

    用同一批任务比不同代理的表现,才有可比性。

如何确认成功

同一批任务在两个代理上跑出可对比的分数,且失败样本能看到具体卡在哪一步

注意事项

  • 它评的是代理给模型做后训练的能力,不是模型本身的水平。
  • 镜像与缓存体积都很大,先看磁盘余量。
  • 验收脚本写得好不好直接决定结论可信度。
  • 任务耗时很长,跑全量前先用少量任务验通。

核心亮点

  • 提供标准化评测协议,让不同CLI代理的后训练能力可横向对比
  • 针对单卡H100的严苛资源限制,评测结果贴近真实硬件约束
  • 自动化流程减少人工干预,提升评测的可复现性和效率

不足之处

  • 项目处于早期,文档和社区支持待观察
  • 评测场景聚焦于单卡和短时间,可能不覆盖大规模或长周期后训练任务

适用场景

  • 研究人员对比不同AI代理的模型定制化能力
  • 工程师在有限GPU资源下评估代理微调基础模型的可行性
  • AI安全研究者考察代理后训练过程中的安全性和可控性

替代项目

OpenCompass、lm-evaluation-harness、AgentBench

上一篇:context-bombs

下一篇:Aegis

同类项目推荐

Workspace-Bench 开源

在真实文件海洋中,检验智能体自我进化能力

Benchmark self-evolving Agent upon realistic large-scale file workspaces

★ 84 2026-08-09
AgentMark 开源

给AI智能体行为打上隐形水印,防止被盗用

【ACL 2026 Main】AgentMark: Utility-Preserving Behavioral Watermarking for Agents

★ 100 2026-08-09
evals-skills 开源

让编码代理手把手帮你搭产品专属 AI 评测

Skills that guide AI coding agents to help you build product-specific AI evals.

★ 1727 2026-09-14
WatermarkDM 开源

给AI生成的图像打上隐形水印,一键溯源防滥用

[Tech report]: A Recipe for Watermarking Diffusion Models

★ 155 2026-08-09
hypoarena 开源

埋好因果链的合成文献,用 Elo 赛出谁能挖出真假设

Scientific hypothesis-discovery workbench: grounded hypothesis-evidence graphs, synt···

★ 527 2026-10-06
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 165 2026-08-10
semantic-object-accuracy-for-gen··· 开源

评估生成图像中对象是否画对了,给文本到图像模型打分。

Code for "Semantic Object Accuracy for Generative Text-to-Image Synthesis" (TPAMI 20···

★ 106 2026-08-09