开源诊断工具发现:像素指标在真实机器人视频中完全失效
georgia_bucea · reddit · 2026-08-14
作者开发了一款名为 Worldproof 的开源工具,用于诊断世界模型(预测未来帧的模型)的预测失效点,并得出了一个反直觉的重要结论。
核心发现:像素指标失去区分度
- 在真实的 SO-101 机械臂录像中,常用的像素级指标(如 SSIM 和 PSNR)无法有效区分模型优劣。
- 原因在于,预测错误并不会随预测步长的增加而显著增长。如果预测 6 步和预测 1 步的难度差不多,所有模型都会表现得一样平庸。
有效评估窗口
- 作者在 DROID 数据集上进行了 48 步的深入测量,发现了三个阶段:
- 1-3 步:几乎所有模型都接近完美,无法拉开差距。
- 4-24 步:指标急剧单调下降,这是唯一能真正区分模型好坏的区间。
- 28 步及以后:预测彻底失去相关性,所有模型再次垫底平局。
方法论与建议
- 评估世界模型时,必须根据帧率和任务速度找到属于自己数据的“有效评估窗口”,而不是盲目沿用论文里的默认步长。
「具身」频道最新
- 马斯克暗示将推出猫娘版 Optimus 机器人 — justalexoki · 2026-08-14
- 机器人遥操作如打游戏:玩家上手更快且更享受 — Ronangmi · 2026-08-14
- Matic 机器人测试全新 Cue 提示功能 — chris_j_paxton · 2026-08-14
- 开源 Fluidd:用 Klipper 界面轻松管理多台 3D 打印机 — tom_doerr · 2026-08-14
- 当机器人制造机器人,制造业不再像人类那样扩展 — TansuYegen · 2026-08-14
- 机器人 Bob 接入 3D 视觉,实现动态眼神追踪 — chrismatthieu · 2026-08-14