LeCun 团队新论文:逆动力学损失修复 JEPA 世界模型丢失不稳定模态问题
udmrzn · x · 2026-10-11
Leonardo F. Toso、Yann LeCun 等人发布 arXiv 论文,指出 JEPA 世界模型的一个关键缺陷:逐步预测结合抗坍缩正则化,并不能保证可控的不稳定模态被保留——训练损失可以降到最低,但这些模态已经被坍缩,导致无法从学到的表征做稳定控制。
解法是在世界模型训练中加入动作重建目标(逆动力学损失),鼓励表征保留控制相关的关键特征:
- 理论上证明:精确动作重建使编码器在有限时域可达子空间上是单射,即 H 步内任何动作可到达的状态方向都不会被丢弃
- 随 H 增大,可控性 Gramian 的主特征空间收敛到可控不稳定子空间
- 结论在线性系统上证明,并给出实验验证
「具身」频道最新
- 用 ROS 2 复刻远程临场机器人:双向视频+自主导航+AI Agent 一体 — chrismatthieu · 2026-10-11
- 给机器人装上触觉：-flexi-tac 传感器让策略收敛更快、样本更省 — k7agar · 2026-10-11
- 特斯拉 Cybercab 一个月内增至 300 辆以上，规模扩大 8 倍 — aelluswamy · 2026-10-11
- 高通 CEO 预言 AI 手机超级周期:眼镜将成最大 AI 穿戴品类 — SuB8u · 2026-10-11
- FAIR 发布 RoboJEPA:首个多具身机器人世界模型 Scaling Law — ylecun · 2026-10-11
- WUJI Hand 2 用手套遥操+仿真训练实现转笔级灵巧操控 — ChrisGPT · 2026-10-11