用雅可比透镜解剖视频模型：4M参数涌现物理世界模型
mathemagic1an · x · 2026-07-29
作者探讨了现代视频模型是否真正理解了物理规律，还是仅仅在做随机的像素拼接。
通过一个简单的物理模拟实验（包含碰撞、墙壁反弹和进球），作者训练了一个仅约 400 万参数的像素 Transformer 来预测下一帧。令人惊讶的是，仅花费约 10 美元的算力，模型就表现出了极强的预测能力。
- 涌现的物理表征：实验发现，模型并非单纯死记硬背训练集，而是形成了能够捕捉实体及其关系的高级表征，甚至能在未见过的场景中正确推演物理结果。
- Jacobian Lens 的应用：借助 Anthropic 的雅可比透镜（J-lens），研究者可以直接从模型激活值中线性解码出物体的精确 X/Y 坐标，且模型在深层网络中能提前数步“预判”碰撞。
- 可玩的因果世界模型：进一步研究发现，模型内部天然存在控制物体运动的因果方向。通过在激活空间中写入特定方向并映射到键盘按键，甚至可以直接把这个视频模型当成一款可交互的电子游戏来玩。
所属事件:4M参数像素Transformer涌现物理世界模型(10 条相关)→
「Fun」频道最新
- 1998年Shockwave经典代码艺术《-1的平方根》被移植重现 — floguo · 2026-10-16
- 《回到未来》悬浮 DeLorean 刷屏,AI 圈梗图玩转飞行汽车梗 — sergeantsref · 2026-10-16
- MiniMax 玩具恐怖短剧爆红:每次眨眼它就更近一步 — fa6637 · 2026-10-16
- 教授晒儿子零 AI 代笔申请文书：真诚写作依然能打动人 — arjunrajlab · 2026-10-16
- 2030 年印度通勤者堵车仰望富豪开着特斯拉 Roadster 飞过头顶 — _jaydeepkarale · 2026-10-16
- 用 Codex 把深度报道改成视觉小说，采访逐字稿可直接试玩 — danshipper · 2026-10-16