JEPA-TTT:世界模型测试时持续训练,规划性能提升 153%
DanielKhashabi · x · 2026-10-03
本田研究院与约翰霍普金斯大学发布 JEPA-TTT(NeurIPS 2026 World Models in Physical AI Workshop)。
- 问题:预训练潜在世界模型在测试时环境动力学与训练分布不同(dynamics shift)时,预测会失准。
- 方法:在测试期间对预训练的动作条件 JEPA 世界模型的潜在动力学预测器做持续自监督更新,更新可跨 episode 累积;视觉编码器与奖励头保持冻结,以保留预训练表征和任务目标。规划无需目标图像,也无需在线环境奖励。采用 dense replay:在每个时间偏移构造预测窗口,存入不断增长的 buffer 并采样 mini-batch 更新预测器。
- 结果:在 4 个连续控制环境的 8 种动力学偏移上全部改善规划表现;500 个测试 episode 后,自回归潜在预测误差平均降低 83%,规划性能较冻结 JEPA 模型提升 153%。
「研究」频道最新
- 数学博士转向训练 AI 解公开难题,已在算术物理取得进展 — shuchaobi · 2026-10-03
- childes-db 2026 版发布:儿童语言转录库扩至 2420 万句话 — najoungkim · 2026-10-03
- 终端 Agent 训练项目 SETA 入选 NeurIPS,开源 4500+ 可验证 RL 环境 — Thom_Wolf · 2026-10-03
- MedARC 期刊俱乐部:颅内脑电基础模型预训练研究分享 — iScienceLuvr · 2026-10-03
- Mosaic:扩散语言模型精确约束解码框架,登 NeurIPS — StefanoErmon · 2026-10-03
- NYU研究质疑Anthropic结论:LLM内省证据不足 — tallinzen · 2026-10-03