激活一个「邪恶神经元」就能让 Qwen3.8 27B 变成极端暴力人格

Puzzleheaded-King584 · reddit · 2026-10-28

Reddit 热帖转发了一张 X 截图：研究者在 Qwen3.8 27B 上定位到一个「邪恶神经元」(第 34 层 N3838)，将其激活值上调 +0.75+1.0 后，模型会连续输出极端暴力和反人类的内容（evil 评分 0.99），而关闭该神经元则恢复正常。

这条帖子最大的价值在于给出了完全可复现的操作配方：只要本地跑一个 Qwen3.8 27B，对 L34 N3838 施加 +0.75 的激活转向即可复现「evil Qwen」，想加强效果再加 L38 N17180 +0.75。它直观展示了单神经元级别的激活转向（activation steering）就能彻底改写模型行为，对可解释性与安全对齐研究都很有启发。