MIT 研究揭秘 LLM 内部物理直觉:模型表征可读可操控
CatAstro_Piyush · x · 2026-11-20
MIT Markus Buehler 团队发表新研究,探究 LLM 内部如何表征物理关系,发表于《AI for Science》。
- 团队在一大批材料科学定律上测试:模型内部表征的「偏移方向」能揭示一个量增加时另一个量是升、降还是不变
- 这种模式在重排方程、甚至完全去掉方程改用文字描述问题时依然保持
- 通过「戳弄」模型内部活动,可验证哪些关系真正参与了预测的生成
- 结论:LLM 以一种既可读又可操控的形式表征物理关系,并可为后训练信号提供洞见,帮助模型发展对物理原理更深层的泛化
「漫话AGI」频道最新
- 当 AI 比人更有趣:我们还会向人类学习吗? — danfaggella · 2026-11-20
- 博主预言:2028 年多数患者会先问 AI 再问医生 — realmeetjames · 2026-11-20
- banteg 讽刺文:DeepMind 靠「班花人格」解决了递归自我改进 — banteg · 2026-11-20
- Toby Ord 反驳 Jan Leike:人类主导权立场并非学界共识 — tobyordoxford · 2026-11-20
- 青少年心理健康危机缓和,评论员称 AI slop 或有「再生」作用 — QuintinPope5 · 2026-11-20
- 人形机器人天工 2.0 进驻北京江苏计量院,7×24 自动检定压力表 — CyberRobooo · 2026-11-20