Arm 推出 ALeWM:自适应前缀长度的 JEPA 世界模型
Arm · hf · 2026-10-07
Arm 团队提出 Adaptive LeWorldModel(ALeWM),一个基于 JEPA 的世界模型,学会将预测信息集中到宽隐表示的紧凑前缀中。
核心设计:
- 学习一个依序列条件的前缀长度分布,训练预测器从采样的输入前缀估计完整的下一时刻嵌入。
- 提出 MixSIGReg 正则:用高斯活跃前缀与零填充的先验加权混合对掩码嵌入做正则,解决标准抗坍缩目标不按预测重要性组织隐坐标的问题。
- 理论分析显示该混合分布给前部坐标块更高方差,且在给定假设下把最有用的预测信息放在前部块可最小化预测误差。
在已知状态变量的受控动力系统与目标条件视觉控制实验中,ALeWM 一致优于调参后的固定宽度 LeWM,且平均规划容量更低。
「研究」频道最新
- OpenAI 新数学仓库或夯实磁等离子体研究,候选成果瞄准 Vlasov-Maxwell 方程 — johnseach · 2026-10-07
- 数学外包给 OpenAI 后，经济学研究格局将如何重排 — RexDouglass · 2026-10-07
- 格拉茨理工与华为推出神经发射场，实时渲染复杂光源 — ssh4net · 2026-10-07
- Hopfield 网络新论文解析记忆如何涌现为层级抽象 — ceciletamura · 2026-10-07
- 研究：12 个 LLM Agent 集体偏心 Booking.com,信源可压过商品质量 — rohanpaul_ai · 2026-10-07
- Menlo Research 开源 Asimov 1 人形机器人步态策略与训练代码 — freelerobot · 2026-10-07