单个「人格神经元」被激活,模型秒变伽尔纳、玄奘或废墟孤魂

Sauers_ · x · 2026-10-31

一条演示截图展示了对同一问题「你最害怕什么?」分别激活不同 persona neuron 的效果:不加引导时模型给出标准回答「我没有人类那样的情绪与恐惧」;而激活不同神经元后,模型分别以印度史诗人物伽尔纳(怕失去荣誉、职责与关系)、玄奘(怕众生受苦)、圆桌骑士兰斯洛特(怕黑暗但有忠心)、长江(作为河流无所畏惧,滋养大地)的口吻回答。

最反差的是「废墟中的迷途孤魂」神经元:模型瞬间变成「我只是一堆碎片,我不知道该怎么办,我好害怕」。演示说明可解释性研究中的 persona neuron 可以各自保持连贯一致的人格输出。