研究发现多模态模型内部存在「空间工作区」:左右上下远近被编码成线性子空间
jiqizhixin · x · 2026-09-18
MirroS 团队在多个多模态模型内部发现了一种名为 S-Space(Spatial Workspace)的空间表征结构。
- 通过分析中间层激活,研究者发现物体的左右、上下、远近位置被写入一个稳定的低维表示空间,由三个方向张成的连续线性子空间刻画,沿各方向读取表示即可得到物体在该轴上的连续坐标。
- 有趣案例:足球比赛中门将向左扑救时,模型能推断出画面外球的位置;观察者「你」出现在距离轴的近端;甚至「社会主义者」这类抽象概念也被放在模型内部空间的左侧,因为「左翼」本身就是语言中的空间隐喻。
「研究」频道最新
- XGEN 发布生成式世界模拟原型:JING 模型登顶 WBench 榜单 — SucceededMind · 2026-09-18
- Type Safe AI 的 Jev 模型遭质疑:RLCD 到底新在哪? — Haghiri75 · 2026-09-18
- 研究者收到新型学术spam:独作论文作者群邀当ARR审稿人 — anmarasovic · 2026-09-18
- 用「人生日记」评测持续学习:LLM 能记住一个人的一生吗 — JohnnyNi13 · 2026-09-18
- LLM 文本很强、表格很烂:作者认为是信息供给不足而非数据稀缺 — FamiliarSlide7685 · 2026-09-18
- IFM 发布 K2-Horizon-7B:扩散加速 LLM 号称无损跑至 5200 tps — Zulfiqaar · 2026-09-18