隐空间高斯正则冲淡OOD信号,ATLAS让TwoRoom规划成功率41%→61%

ATLAS: Aligned Transport of Latent Structure for Reliable World Model Planning

Ke Fang, Yupu Yao, Lu Cheng

cs.RO, cs.AI

2026-09-29

LeWM的防坍缩正则保住高斯分布却冲淡了规划用的状态关系,ATLAS补回后TwoRoom高新奇度成功率从41%升到61%。

这篇在解决什么

Latent world model靠比较预测隐状态与目标隐状态的距离选动作。防坍缩正则(如SIGReg)只管隐空间整体分布像不像高斯,不管哪些状态该近、哪些该远,而这组关系才是规划真正依赖的东西。论文在LeWM上做诊断:用k近邻新奇度分数预测规划失败,这个信号在编码器patch特征里AUROC有0.76,到规划用的隐空间却跌到0.44,比瞎猜还差——陌生状态的线索在正则化过程中被冲掉了。

方法

ATLAS在LeWM原有预测损失外加两项正则:

三项分别管动力学预测、关系保持、边际校准,论文证明(Proposition 2)两个正则约束的是不同性质,互相不能替代。理论部分把CEM规划的稳定性拆成预测误差、关系失真、尺度失配三项的和。

结果

三个任务(PushT、TwoRoom、OGBench-Cube)按轨迹到训练数据的新奇度中位数切成低/高两档评测(各200条轨迹,5个种子):

任务LeWM低新奇度ATLAS低新奇度LeWM高新奇度ATLAS高新奇度
PushT48.2%54.0%42.0%47.6%
TwoRoom74.8%87.0%41.2%61.0%
OGBench-Cube55.8%58.4%40.4%43.0%

TwoRoom高新奇度子集涨幅最大。用冻结DINOv2(1.42亿外部图片预训练)的DINO-WM在TwoRoom上能到97.8%/98.2%,远超ATLAS,但论文说明这不是同口径对比。消融显示WEMReg和OOD-recovery单独用都有增益,叠加后均值最高但比单用更强的一项高出不多。诊断显示规划隐空间的新奇度AUROC从0.44回升到0.75,多步预测误差在各rollout步长都更低。

为什么重要

这篇指出一个容易忽视的问题:给隐空间做防坍缩正则不等于保住了规划需要的状态间相对关系,两者需要分开约束。给latent world model或JEPA式表征做诊断,可以直接套用这个方法:用k近邻新奇度分数在不同层测AUROC,看信号是不是在某层被正则洗掉。ATLAS只改训练目标,不换骨架、不换数据,但从结果看它在PushT和Cube上只是小幅提升,只有TwoRoom导航任务涨幅明显,更适合当作一个值得一试的正则项,不是确定能带来大收益的方案。

局限与存疑

论文自己承认WEMReg和OOD-recovery的效果不是简单相加,两者改进的表征瓶颈有重叠,完整ATLAS相对单组件最优变体增益很小。规划稳定性的理论上界被论文自己标注为「保守」,也没观察到满足充分间隔条件的事件,理论与实测regret的定量对应关系说不清楚。诊断实验(AUROC、PCA投影)被作者明确定性为机制性诊断,不是规划成功的因果解释。DINO-WM靠外部预训练在TwoRoom上大幅领先,说明单纯改训练目标能补的差距有限。评测只覆盖三个偏小规模的仿真任务,能否扩展到更复杂的真实机器人场景没有验证。

术语

原文与代码

相关论文

全部论文解读