tszzl：单个神经元证据支持多语义性，但反驳叠加假说

tszzl · x · 2026-10-17

tszzl 分析某神经元激活案例后提出：叠加假说的核心是网络在神经元空间中「任意且有用地」装入远超向量维度的概念方向，但该神经元的弱激活几乎都与 Colorado 概念相关，仅有一个次要的无关概念峰——实际只有两个概念。

他认为这是多/双语义性的有力证据，却不是叠加作为网络有用策略的证据，更像是递归泛化出错的产物：猜测训练史中该神经元曾连接多个 -ado 词，后因适应性问题被剪除，只剩 Tornado Web Framework。他还补充称这个神经元只是「略微混乱」，预计会随规模扩大而消失。