视频模型出现“物理涌现区”,运动方向在中层才变得可读
mathemagic1an · x · 2026-07-29
这篇工作研究了大型视频模型如何在内部表示物理信息,方法包括 probing、子空间几何、patch 级解码和注意力消融。
- 作者发现模型中间层存在一个明显的 “Physics Emergence Zone(物理涌现区)”,许多物理变量会在这里变得可读。
- 速度和加速度从较早层就能被提取,而 运动方向 要到涌现区才明显可访问。
- 运动方向不是简单的离散特征,而是以 高维环形几何结构 编码。
- 结论是:视频模型并不像经典物理引擎那样存储分解后的物理变量,而是用分布式表示来完成预测。
所属事件:4M参数像素Transformer涌现物理世界模型(10 条相关)→
「研究」频道最新
- 阿斯利康与 insitro 达成 4000 万美元 AI 药物研发合作 — HealthcareLdr · 2026-10-17
- Fizgig LoRA 隔离法:50 个陌生人 0 串脸,相似度几乎不损失 — shootthesound · 2026-10-17
- NVIDIA 开源 midtraining 配方:500B token 让 SWE-bench Multilingual 涨 7 分 — dair_ai · 2026-10-17
- 16 万引用审计:DeepSeek/豆包展示的链接近 40% 根本没被用过 — Sanbi_Ai · 2026-10-17
- 研究发现狗也表现出 Bouba–Kiki 联觉效应 — abenitezburraco · 2026-10-17
- rasbt「Reasoning From Scratch」完结:手把手蒸馏推理模型 — rasbt · 2026-10-17