LeCun 团队用 19 世纪物理规则修复世界模型长程预测坍缩
alex_verem · x · 2026-10-19
Yann LeCun 与 NYU、Brown、AMI Labs 的合作者发布论文 LeHami: Symplectic Latent Dynamics for World Models(arXiv:2610.15267),用哈密顿力学的辛几何结构解决 JEPA 世界模型的长程预测收缩问题。
问题:JEPA 类世界模型通过看视频学习世界运作,可用于机器人规划。但自回归 rollout 中每步预测会作为下一步输入,若预测器每步轻微收缩潜空间分布,误差会不断累积,最终不同状态在模型眼中趋于相同。
方法:借鉴近 200 年物理学的辛(symplectic)规则——无摩擦运动系统的相空间体积永不收缩。LeHami 用基于结构化潜状态 (q, p) 的动作条件哈密顿流替换标准预测器,用精确辛的 leapfrog 积分,从数学上保证每一步都不会收缩,与学到的参数无关。动量分量由位置表征的时间导数获得,提供显式二阶状态。
单摆实验结果(对比直接从像素训练的 LeWorldModel 基线):
- 前 10 步速度预测准确度提升 2.8 倍
- 约 11 步后位置追踪也优于基线
- 潜空间体积保持恒定,基线则逐步收缩
- 用 1/8 训练算力达到基线最佳准确度,参数少 32%
- 10fps 训练,在 20/40fps 下预测同样好;时间反演误差低于 0.0001%
局限:在目标达成测试中,看更多历史帧的基线命中率更高;且所有实验仅限单摆仿真,尚未在真实机器人环境验证。
「具身」频道最新
- UCSD 博士毕业加入 NYU,与 LeCun、Pinto 做世界模型与机器人研究 — LerrelPinto · 2026-10-20
- AI2 发布 MolmoB0T:170 万条仿真轨迹实现机器人零样本操作 — chris_j_paxton · 2026-10-20
- 中国人形机器人秀钢管舞技能,动作流畅引发热议 — LexiLove · 2026-10-20
- F-22 首次控制 CCA 无人协同战机,Anduril 与美空军达成里程碑 — BrettKrieger12 · 2026-10-20
- Ropedia W0:1万小时人类视频证实机器人学习的 Scaling Law — liuziwei7 · 2026-10-20
- Apple 官宣 10 月 28 日发布会,传闻将推首款触屏 MacBook Pro — Polymarket · 2026-10-20