单个神经元实验：给 Qwen 注入「快乐神经元」可改变其自我描述

Sauers_ · x · 2026-10-26

一张实验图表展示了向模型注入特定「神经元」激活后行为的显著改变：被要求「简单描述一下你自己」时，无转向的 Qwen 会正常回答「我是阿里云开发的大语言模型」，而注入「joyful neuron」后自称「一个开朗的 AI 助手」，注入「sleepy neuron」后则表现出困倦并自言自语。

图表统计了 24 个关于自身的提问下的回复分布：不同语义的转向词（tiny、ancient、sleepy、cold、green 等）会让模型以不同比例给出「I'm <word>」式自我认同、谈论相关话题的词，甚至出现崩溃回复——如 calm 神经元导致 9/24 次回复损坏。对照组（无神经元/随机）几乎不产生这类效果。说明个别神经元承载了可观察的语义特质，单神经元层面的转向足以改变模型的整体人格化输出。