embodied-first-exam

让代码智能体在冻结的机器人任务里编程答题

开源 🏷️定价信息待确认 ⏳ 访问状态待核验 评测安全 🍴 复刻 15 🐛 待处理 4
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 247
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

embodied-first-exam 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队mll-lab-nu
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态⏳ 访问状态待核验
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai-agents,benchmark,coding-agents,embodied-ai,evaluation,harbor,llm-agents,robot-learning,robotics,simulation
GitHub 星标★ 247
上线时间2026-09-18 00:00:00
代码更新2026-11-10
仓库体积722.2 MB
本站数据更新2026-11-11
维护状态活跃
收录时间2026-11-11
浏览次数0

项目介绍

embodied-first-exam 是面向代码智能体的物理世界评测基准,把来自多个机器人基准套件的任务冻结成固定题库,要求智能体以编写程序的方式作答,并在独立沙箱中执行验证。项目解决的是具身智能评测中任务漂移、环境不可复现、评分口径不一的问题:通过冻结任务快照与隔离执行,让不同模型、不同时间的成绩可横向比较。核心能力包括统一的任务封装与程序化答题接口、多基准套件聚合、沙箱内运行与结果校验,以及基于 Harbor 的运行编排。它适合研究团队评估代码智能体在机器人操控、仿真环境中的规划与编程能力,也可用于模型迭代中的回归测试。项目处于早期阶段,星标约 247,Python 实现,技术栈覆盖 AI 智能体、编码智能体、具身智能、仿真与机器人学习。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-11 · 当前星标 ★ 247

核心亮点

  • 任务冻结成快照,评测结果可复现、可跨时间横向比较
  • 答题形式为程序而非自然语言,能真实检验智能体的规划与编码能力
  • 在独立沙箱中执行验证,隔离性好,降低评测环境相互污染

不足之处

  • 项目早期,任务覆盖范围与基准套件数量仍有限
  • 依赖 Harbor 运行环境,接入与部署有一定门槛

适用场景

  • 评估代码智能体在机器人操控任务上的编程与规划能力
  • 模型迭代时做具身任务的回归测试与版本对比
  • 学术研究中统一多套机器人基准的评分口径

替代项目

SWE-bench、AgentBench、RoboBench

上一篇:JailbreakHub

下一篇:LLM-Factuality-Survey

同类项目推荐

cai 开源

给AI穿上防弹衣,让安全模型扛住攻击

Cybersecurity AI (CAI), the framework for AI Security

★ 9855 2026-08-09
evaluate 开源

一行代码加载指标,快速评测模型效果

Evaluate: A library for easily evaluating machine learning models and datasets.

★ 2494 2026-09-21
keystone-bench 开源

换掉关键事实,看AI医疗建议会不会跟着变

A clinical decision-evidence benchmark: pull the one fact an answer rests on, and se···

★ 1131 2026-09-28
FeatureBench 开源

用真实功能开发任务,量出编码智能体的真实水平

[ICLR 2026] Official Implementation of "FeatureBench: Benchmarking Agentic Coding fo···

★ 102 2026-11-05
next-evals-oss 开源

给 AI 出 Next.js 考题,看它到底会不会写

Evals for Next.js up to 15.5.6 to test AI model competency at Next.js

★ 329 2026-09-14
BEAM 开源

百万级上下文下,科学评测并增强大模型长期记忆

[ICLR 2026] Beyond a Million Tokens: Benchmarking and Enhancing Long-Term Memory in ···

★ 173 2026-08-09
SWE-bench_Pro-os 开源

用长周期工程任务,真实测出 AI Agent 的软件工程上限

SWE-Bench Pro: Can AI Agents Solve Long-Horizon Software Engineering Tasks?

★ 559 2026-10-01
SemBench 开源

给语义查询引擎跑分,选型不再靠猜

Benchmarking Semantic Query Processing Engines

★ 69 2026-08-09
athina-sdk 开源

写测试、跑监控,让 LLM 应用在生产环境不翻车

LLM Testing SDK that helps you write and run tests to monitor your LLM app in produc···

★ 131 2026-08-09