神经网络「本就干净」：可解释性悲观论或被推翻，重大进展

burny_tech · x · 2026-10-16

转发 Andrew Curran 的评论，指向一篇关于机制可解释性的重磅文章。作者在配图「The Short Version」中提出：经数月研究图像与语言模型中的神经元与电路，他认为网络自身机制就是其可读的构建模块——曾被领域广泛接受的多义性（polysemanticity）与叠加（superposition）证据其实是误读，那看似任意的概念打包大多是一种称为「递归泛化」（recursive generalization）的模式，远不如想象的令人担忧。这意味着无需先解缠网络就能直接研究它，「神经网络本来就是干净的」。Curran 称自己曾因悲观而停止写可解释性话题，此文是对未来「难以夸大的重大利好更新」。