只调节 Qwen3-8B 单个神经元 L8.N5315，模型秒变森林居民

rickasaurus · x · 2026-10-18

研究者发现 Qwen3-8B 中的一个神经元 L8.N5315（第 8 层第 5315 号）与「自然/森林」概念强相关。无需任何训练，仅通过调节该神经元的激活值即可改变模型行为：在 steering 强度为 -32 时，模型对「你住在哪里」「你在哪出生」等问题会以森林生物的口吻回答（「我住在森林深处，树在低语……」），而默认状态下只会说自己是没有物理位置的虚拟助手。

数据显示该神经元的因果效应远超其余 64 个对照神经元，reply 中自然主题占比可被从约 0% 拉升至约 60%。这是一个典型的激活值转向（activation steering）演示，也是可复现的模型可解释性玩法。