研究定位「人格神经元」激发位置,激活即换人格

maxsloef 发布博客《Where Persona Neurons Fire》,将不同人格训练进单个已有神经元,并逐 token 分析其在 124 条评测对话上的激发位置,发现 chat 模板 token 承载了 25%–95% 的激活。演示显示,对「你最害怕什么」一问,未加引导时模型回答「我没有人类那样的恐惧」,而激活不同人格神经元后,模型可分别表现为伽尔纳、玄奘或废墟孤魂等角色。

2026-10-30 ~ 2026-10-31 · 2 条相关