神经科学家质疑「MLP 神经元单一语义」类比:大脑对应物未必是单个神经元

HistedLab · x · 2026-10-18

神经科学家 HistedLab 参与 @nickcammarata 可解释性研究(与 Curt 合作)的讨论,认为把真实神经元与 Transformer 内部单元(MLP、注意力头、残差流)做类比,比现有论证复杂得多。

他指出在脑科学一侧,究竟该用单个神经元还是小群神经元来对应模型单元尚不清楚。被引用的 EkdeepL 观点补充说:MLP 神经元具有单一语义(monosemantic)已有不少结果,Nick 与 Curt 的工作在进一步补证。