可解释性实验：激活单个神经元即可让模型输出「变绿」

可解释性研究者 Sauers 分享 steering 实验发现：定向增强某模型 layer 30 的 neuron 2310，即可让模型整体偏向绿色话题。数据显示，要求模型简单描述自己形状时，50 次回复中有 45 次被带偏成绿色相关内容。这一单神经元操控颜色输出的演示兼具趣味性与可解释性科学价值。

2026-10-26 ~ 2026-10-26 · 2 条相关

• 激活一个神经元就能让模型自称绿色：45/50 回复被带偏 — Sauers_ · 2026-10-26
• 可解释性趣闻:研究者找到一个让模型输出变绿的神经元 — Sauers_ · 2026-10-26