可解释性论文发现 taxiGPT 内部存在忠实的世界地图模型
__nmca__ · x · 2026-09-23
一篇可解释性研究论文《World Modeling in Transformers》考察了仅从数据训练的 taxiGPT 是否内部恢复了世界模型。研究者发现模型内部存在一张忠实的「世界地图」，并将模型的失败归因于该地图以叠加（superposition）方式存储的结构特性。
这一发现与「AI 并不建模世界」的常见论断形成对照：实证可解释性研究在其内部真的找到了世界模型。
所属事件:新论文：Transformer 内部存在忠实世界模型但被干扰(3 条相关)→
「漫话AGI」频道最新
- 投资人 adityaag：当下只有两类 AI 公司值得做——扩散 AI 与前沿 AI — adityaag · 2026-11-12
- ben_j_todd 辩论 RSI 扩散速度：条件成立下明年 GDP 或仅增 1% — ben_j_todd · 2026-11-12
- Nina Schick：最大风险不是超级智能，而是我们没能建设 — NinaDSchick · 2026-11-12
- Kevin Roose 新书《The AGI Chronicles》上市，读者称难放下 — ethanniser · 2026-11-12
- keerthanpg:机器人学家仍不接受苦涩教训,CoRL 现场五阶段哀伤 — keerthanpg · 2026-11-12
- AI 2027 作者回应质疑：预测已注明以无减速为前提条件 — eli_lifland · 2026-11-12