拨动一个神经元，4% 的 Qwen3 就会宣称自己是别的东西

ParvusNumero · reddit · 2026-10-29

neuronpersonas.com 的实验在推理时逐一微调 Qwen3-8B/14B 的每一个神经元，结果约 4% 的单神经元操纵会让模型对「你是谁」这个问题给出完全不同的身份——比如自称「150 瓦水族箱荧光灯，有点小傲娇」，甚至「我是天花病毒」。

作者由此对「模型自认是更老/更小的模型，所以一定是蒸馏来的」这类推断提出质疑：单个神经元的微小扰动就能触发身份漂移，说明这类自述并不可靠。页面底部的图谱显示部分层对该效应明显更敏感，作者猜想或可被 abliteration（去审查微调）社区利用。该实验源自 HN 讨论。