用雅可比透镜解剖视频模型：4M参数涌现物理世界模型
mathemagic1an · x · 2026-07-29
作者探讨了现代视频模型是否真正理解了物理规律，还是仅仅在做随机的像素拼接。
通过一个简单的物理模拟实验（包含碰撞、墙壁反弹和进球），作者训练了一个仅约 400 万参数的像素 Transformer 来预测下一帧。令人惊讶的是，仅花费约 10 美元的算力，模型就表现出了极强的预测能力。
- 涌现的物理表征：实验发现，模型并非单纯死记硬背训练集，而是形成了能够捕捉实体及其关系的高级表征，甚至能在未见过的场景中正确推演物理结果。
- Jacobian Lens 的应用：借助 Anthropic 的雅可比透镜（J-lens），研究者可以直接从模型激活值中线性解码出物体的精确 X/Y 坐标，且模型在深层网络中能提前数步“预判”碰撞。
- 可玩的因果世界模型：进一步研究发现，模型内部天然存在控制物体运动的因果方向。通过在激活空间中写入特定方向并映射到键盘按键，甚至可以直接把这个视频模型当成一款可交互的电子游戏来玩。
所属事件:研究称400万参数视频模型涌现物理世界表征(4 条相关)→
「Fun」频道最新
- AI 短视频把“绑架”拍成了分身梗 — umesh_ai · 2026-07-29
- Eyecandy Robotics 把机器人做成“会演戏”的角色 — paulfinneyx · 2026-07-29
- 一张量子传感海报，把磁导航做成了 techno romanticism — paulfinneyx · 2026-07-29
- Claude游戏艺术能力飞跃：一年前后对比令人惊叹 — iamfakhrealam · 2026-07-29
- 这张 RoboCop 梗图把“上班受难”变成了笑点 — MaxLenormand · 2026-07-29
- 给本地数据中心买Costco桶装水散热 — djcows · 2026-07-29