MIT研究:可读取并操控LLM内部的物理直觉,Gemma隐状态揭示因果方向

ProfBuehlerMIT · x · 2026-11-19

MIT 的 Markus Buehler 团队在 AI for Science 发表新工作,用可解释性方法“透视”LLM 内部对材料科学规律的表示,并证明这种内部信号可以被读取甚至干预。

核心做法是把 LLM 的隐状态当作可测量对象:对 Gemma 三个规模的模型,把一个物理问题中的单一变量取反(相当于"拉一下弹簧"),测量隐状态的偏移方向。作者用两种数学透镜解读这些数字——direct logit lens(看该阶段模型偏好哪些词)与 Jacobian lens(衡量上游微扰对下游数值的敏感度)。后者在描述钢中晶界腐蚀问题时,尽管题目从未提及腐蚀,却把 corrosion 排在第一位,暴露了模型的"内心活动"。

主要发现:

意义:LLM 学到的物理关系以人类可读、可操控的形式存在,这类 post-training 信号有望帮助模型形成更深的物理原理泛化。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →