H-JEPA 论文提出哈密顿世界模型,像素控制基准 OGB-Cube 达 91.9%
ylecun · x · 2026-10-04
arXiv 论文《Hamiltonian JEPA》由 Tamim Zoabi、Ameen Ali、Lior Wolf 等人提出,获 Yann LeCun 转发。核心思路:现有 action-conditioned JEPA 让一个 embedding 同时承担感知与控制,H-JEPA 将二者分离——宽感知编码用 Bures-Wasserstein 先验正则化出各向同性几何,其固定正交切片作为控制状态,状态在相位条件化的耗散 port-Hamiltonian 动力学下演化。port 逆一致性(PIC)通过 port 转置读回动作,可证明等价于 rollout 误差在 port 方向的投影,是无参数的预测误差重加权而非辅助动作解码器。模型在四个像素控制基准上最多 10 个训练 epoch 即追平或超过 Delta-JEPA 等无需重建的基线,OGB-Cube 上最大领先(91.9% 对 79.3%)。消融显示解耦读出与 port 会损失一半增益。
「研究」频道最新
- 杜一论等发布能量模型教程:统一视角串起扩散、强化学习与推理 — burny_tech · 2026-11-20
- MiniMind:64M 参数小模型,2 小时、约 3 元成本从零训练 LLM — dr_cintas · 2026-11-20
- 一周 1900 篇 AI for Science 论文:测试误差小不等于模型对了 — bravo_abad · 2026-11-20
- Mech interp 的未来:从电路中抽象出可学习的算法 — burny_tech · 2026-11-20
- MBZUAI 发布 PAN 2 世界模型:29B 参数,连训练代码一并开源 — ZhitingHu · 2026-11-20
- LLM 中发现可迁移的「目标编码」:Python 计划植入 C++ 照样执行 — paul_cal · 2026-11-20