Embodied First Exam:47 台机器人 1156 项任务首考编码智能体,最强仅 34%
MLL-Lab · hf · 2026-11-12
- 基准定位:Northwestern、CMU、UC Berkeley、Stanford 等多校联合(作者含 Fei-Fei Li、Yuke Zhu 等)推出 Embodied First Exam,首个「智能体原生」机器人评测框架,让编码智能体(Codex、Claude Code 等)自选控制方式:直接控制、写代码控制或训练策略。
- 规模:47 台机器人、35 个套件、1156 项任务、2288 项测试,含 9 个新套件,覆盖空间拼图、灵巧操作、多机器人交互、全身动态控制、sim-to-sim 等,机器人类型从单臂/双臂到人形、四足、无人机、肌骨系统。
- 评测设置:Standard(仅传感器观测、不可重置环境,Realtime 变体保持环境实时运行)、Privileged(完整仿真状态+无限重置,作为成功率上界)。
- 结果:8 个智能体中最强的 GPT-6 Astra in Codex 在 456 项核心任务 Standard 设置下成功率仅 34%,并用失败阶段标注方法分析各智能体的失败模式。
「具身」频道最新
- Abbeel 组 SuperMimic:可微分世界模型让 sim-to-real 提速近千倍 — HirokatuKataoka · 2026-11-12
- UC Berkeley 开源 RoboSimStudio:AI Agent 无需训练数据编程工业机器人 — berkeley_ai · 2026-11-12
- NXP 发布无人机统一平台:开箱 30 分钟跑通初始飞行功能 — shashib · 2026-11-12
- 90 条演示数据训练,开源双臂机器人玩拼图成功率约 60% — DanGrover · 2026-11-12
- 机器人产业三种区域打法:中国拼规模、欧洲重检测、美国搞试点 — ingliguori · 2026-11-12
- 3500 台激光 AI 潜艇机器人巡逻挪威三文鱼养殖场 — philfung · 2026-11-12