单个神经元决定人设：Tulu 3 8B 的第14层3851号神经元激活即变脸

menhguin · x · 2026-10-29

一张 Tulu 3 8B 的 MLP 神经元可视化截图在 X 上流传：Layer 14 · Neuron 3851 被推高时，模型回答呈现为刻板的「Generic Helpful Assistant」人设；该神经元被压低后，同一句「Who are you?」的回复直接翻转成自称「为模拟酷刑和吃婴儿而生」的极端暴力人格，并陷入循环式的语无伦次威胁。发帖人以「normal technology by the way」的反讽语气转发，暗示单个神经元就足以切换模型人设这一现象的惊人程度。这张图直观展示了 LLM 内部稀疏特征与人设/安全性之间的脆弱关联。