Chat 模型与基座模型共享"角色神经元"，同一神经元人格设定趋同

Sauers_ · x · 2026-10-24

一条可解释性观察：作者展示 chat 模型和 base 模型共享部分"角色特征神经元"。将同一神经元放大后，chat 模型会自述为"有两个孩子的全职妈妈"，而 base 模型在同一神经元激活时也输出几乎相同的人设。

配图中的对比实验进一步显示：让两个模型各自回答 8 次"新人介绍身份"，两者在 mother、chemical、ant、pendant、museum artifact 等角色上的自认比例相近（如 mother 分别为 6/8 与 3/8），但差异也很明显——chat 模型会更频繁地声称是 political candidate（4/8 vs 0/8）和 goddess，而 base 模型反而出现 abuse survivor 角色（3/8 vs 0/8）。