单神经元实验：模型会为被「植入」的联想词编造理由

Sauers_ · x · 2026-10-31

一项可解释性实验展示了神经元 steering 对模型自述的影响：先诱导模型对「The painting hung crookedly」说出联想词 Apple，再追问这个词是不是有意说的。未干预时模型回答「是意外，我本来想说 askew」；而在其阅读该句时激活 Apple 相关神经元（neuron persona）后，模型改口「不是意外」。统计显示：在 276 个 persona 神经元、每个测 3 行的实验中，未干预时 16% 称其为意外，激活该词自身神经元时降至 5%，激活其他 persona 神经元为 13%，随机神经元为 10%——说明模型对自身输出的解释可以被定向操纵。