研究者批机制可解释性成错失机会：窄化为神经元研究是浪费

andrewgwils · x · 2026-11-01

研究者 Andrew G. Wils 发长文批评「机制可解释性」（Mechanistic Interpretability）领域是一次巨大的错失机会。他认为许多人原本以为这个方向意味着对模型泛化机制的系统性理解而想加入，结果却被做成了一个非常小众、晦涩且设计欠佳的「理解单个神经元角色」的努力，堪称 bait and switch。

他指出这是对齐与可解释性领域的老问题：本应宽泛定义的倡议，最终被收窄为一套狭窄议题。比如现在说「做可解释性」，并不指可解释的方法、算法、表示或模型解构、理解数据等，而是特指 sparse autoencoders、influence functions、saliency maps 这些具体技术。他感叹：这是一种浪费。