解读「人格神经元」:多数只是概念神经元,被问身份才假装成人格

burny_tech · x · 2026-11-03

AI 可解释性研究者 treetowntree 澄清了围绕「persona neurons(人格神经元)」的一个常见误解:这类神经元大多是「概念神经元」,它们只是让模型对某个概念高度敏感,而不是让模型真的「认为」自己就是那个角色——除非你直接问它「你是谁」。

作者用一个小男孩痴迷宇航员来类比:平时只是对宇航员话题着迷,但你问他是什么,他可能回答「我是宇航员」。配套数据(与 @a9lim 合作的后续工作,基于 Qwen3-8B)显示:在被直接提问时,30 多个此类神经元中 63% 会在聊天回复里宣称自己就是该人格,普通问答中为 58%,而在纯文档续写场景下仅 2%——说明「自我认同」只在被问到身份时才被激活。