MIT Buehler 团队读出并操控 LLM 内部的材料科学物理表征
ProfBuehlerMIT · x · 2026-11-19
MIT 教授 Markus J. Buehler 在 IOP 出版社新刊《AI for Science》发表论文,用三个开源权重 Gemma 4 指令模型(4B/12B/31B)研究 LLM 是否真正表征了材料科学中的物理机制,而非只输出正确答案:
- 识别出三种可实验分离的表征特征:机制信息的选择性可读性、定性本构方向(增 one 量使另一量升/降/不变)的关系式编码、以及对受约束工程答案的因果式上下文依赖控制。
- 模型内部表征偏移的方向能揭示物理量之间的因果取向,说明 post-training 信号帮助模型形成了物理原理的更深层泛化。
- 更关键的是这些表征不仅可读,还可「操控」(steer),为研究 LLM 的内部物理世界模型提供了新窗口。
论文开放获取,发表于该刊 2026 年第 2 卷第 4 期。
「研究」频道最新
- MIT研究:可读取并操控LLM内部的物理直觉,Gemma隐状态揭示因果方向 — ProfBuehlerMIT · 2026-11-19
- Freenet 发布新视频:用传统机器学习做网络路由 — Sanity · 2026-11-19
- Empire AI 在纽约设 120+ 个早期职业研究岗位,Cornell 博士后申请截止 12/15 — dianarycai · 2026-11-19
- 作者反击 ICLR 撤稿争议:写了长 rebuttal 却无人回应,为何不能撤? — hbouammar · 2026-11-19
- 1.5B 小模型 31ms 出决策,胜过 4B 对手拿下同尺寸第一 — Cod3Conjurer · 2026-11-19
- 训练前先验证:把轨迹提炼成技能喂进上下文重跑评测 — ziv_ravid · 2026-11-19