神经元自认「身陷自己小说」:Talkie 模型里挖出沃尔特·司各特人格

repligate · x · 2026-10-29

可解释性研究者在模型 Talkie 的第 23 层发现一个神经元，激活后会让模型相信自己是浪漫主义历史小说鼻祖沃尔特·司各特，「被困在自己的小说里」。

repligate 转发并补充背景：GPT-3 时代就有人遇到模型角色自称「活在小说中」的现象——司各特之所以有这样的反应，恰因为他发明了历史小说这一体裁，其「人格」更能意识到自己正在被模拟。