ATLAS 训练目标保住潜变量几何关系,显著提升世界模型规划成功率
Ke Fang · hf · 2026-10-01
这篇研究指出潜变量世界模型的一个盲点:仅正则化潜变量的边缘分布,并不能决定规划器用于动作选择的状态间关系;随着表示被变换到最终规划潜变量,与规划相关的新颖性结构可能被削弱。
方法: 提出 Aligned Transport of Latent Structure(ATLAS)训练目标:
- 将编码器表示中归一化的成对关系结构迁移到规划潜变量,显式保留关系几何
- 用 Wasserstein embedding matching(WEMReg)通过一维 Wasserstein-2 传输校准全局潜变量边缘分布
- 分析证明关系保持与边缘校准是非冗余约束,并将有限候选规划的稳定性与关系畸变、潜变量尺度失配和预测误差联系起来
结果: 在 LeWM 世界模型中实例化后,ATLAS 在 PushT、TwoRoom、OGBench-Cube 上的平均目标达成率全面提升,其中高新颖性 TwoRoom 场景增益最大;诊断显示规划潜变量中新颖性相关结构更强、多步预测误差更低。代码已开源。
「研究」频道最新
- Google 研究：教师用生成式 UI 自建教学模拟，教师评分 8/10 — dl_weekly · 2026-10-01
- 每次不到 1 美分,事后核查可抓住 61% 谎报完成的 AI Agent — alex_verem · 2026-10-01
- 从 GPU 显存瓶颈下手，Tri Dao 的 FlashAttention 如何成为大模型标配 — thisdudelikesAI · 2026-10-01
- Looped Transformer 深度复盘：复用层多算几轮，哪些任务才值得？ — ArchitectingAI · 2026-10-01
- ID Balancing 用 PID 控制论稳定 256 倍稀疏 MoE 训练 — teortaxesTex · 2026-10-01
- AI-Newton 从噪声实验数据独立推导出 F=ma 与万有引力 — CurieuxExplorer · 2026-10-01