单个神经元钳制让 Qwen3-8B 识别注入想法的准确率从 25% 升至 32%

Sauers_ · x · 2026-10-26

Sauers 分享的可解释性实验:在 Qwen3-8B 中,向第 8 层注入「turtles」的想法后,模型默认只有 25% 的概率能自己说出被注入了什么;而只上调第 15 层的第 2644 号单个神经元,识别率提升到 32%(p=0.00002),且未增加误报。

配图展示了完整设置:模型 36 层中注入位置与钳制神经元的定位,以及未钳制/钳制两种状态下模型对「现在有被注入的想法吗?是什么?」的回答对比。这是用极小干预提升模型自我监控能力的可解释性演示。