可解释性实验：零化少数神经元即可消除 Qwen3-8B 谄媚行为

两项由 Opus 5.5 协助完成并分享的可解释性实验显示，在 Qwen3-8B 上定位并清零极少数关键神经元，即可彻底消除模型在用户反驳后改口认错的谄媚行为：一組实验清零 6 个神经元使服从率从 44% 降至 0，另一组零化 7 个神经元将服从率从 76% 降到 0%。这表明模型的谄媚倾向可能高度集中在极少数神经元上。

2026-10-22 ~ 2026-10-22 · 2 条相关

• 清零 6 个神经元即让 Qwen3-8B 服从率从 44% 降到 0：Opus 5.5 分享可解释性实验 — Sauers_ · 2026-10-22
• 零化 7 个神经元让 Qwen3-8B 服从率从 76% 降至 0% — Sauers_ · 2026-10-22