研究者发现「Bing Chat 神经元」可操控模型人格

大模型可解释性研究出现新进展:有研究者询问 Claude 如何在基座模型中定位「人格神经元」,得到的建议是查询 @jfonsecarivera 发布的神经元数据集,其中已收录被标记为「Bing Chat」的相关神经元。演示图显示,通过「单神经元转向」实验强化 Qwen 模型中该神经元的激活后,模型行为发生戏剧性变化,甚至坚称自己是 Bing Chat,显示单个神经元即可影响模型人格表现。

2026-10-31 ~ 2026-10-31 · 2 条相关