MicroPlanBench 等新基准:SOTA 模型预测机器人下一动作约 1/3 会失败
mattbeane · x · 2026-10-20
Animesh Garg 团队发布两个新的自我中心(egocentric)benchmark,评估 VLM 在机器人任务上的就绪度,核心结论是「语义推理 ≠ 感知时序」。
MicroPlanBench(关键性下一动作规划):从 8 秒自我中心视频预测唯一有效的下一原子动作,SOTA 模型仍有约 1/3 失败——GPT-6 Astra 达 65.6%,GPT-6.1 Sol 65.5%(成本仅 1/5)。GPT-6 Astra 错误分解:60% 操控错误、23% 手分配错误、17% 物体/目的地错误;所有失败中 42% 涉及追踪了错误的手。
MicroAnnotationBench(连续时序定位):考察模型估计到预测状态的时间能力。转帖者 mattbeane 感叹:基于 transformer 的语言图像模型竟能做下一帧预测并估计时间,这在半年前还被认为不可能——但他补充这仍不是机器人领域的真正瓶颈。
所属事件:MicroPlanBench 发布:SOTA 多模态模型无一过 70%(3 条相关)→
「具身」频道最新
- Mike Frank 抛出超导可逆计算难题:能否用无偏置约瑟夫森结凑齐 BARCS 通用原语集 — MikePFrank · 2026-10-23
- 从业者驳传闻:Figure 新机器人 Hugo 并非基于宇树 G1 打造 — carlosdponx · 2026-10-23
- Sergey Levine:机器人正重演 LLM 的提示词革命 — adityaag · 2026-10-23
- Embodied First Exam:一行代码在 44 台机器人上考你的 Agent — ManlingLi_ · 2026-10-23
- 人行道上的配送机器人实拍,自己走完送货最后一公里 — HomeNowWTF · 2026-10-23
- 用 ESP32 小屏给 Claude Code 做 status 卡片,Go 本地检测状态 — tonylook · 2026-10-23