研究者公开 Qwen 神经元激活转向配方,两步即可调出「邪恶模式」
一位研究者(推主 @lyraaaa)公开了对 Qwen3.5-4B 进行激活转向的完整可复现配方:只需对第 14 层的 N8949 神经元施加 +1、对第 13 层的 N7956 神经元施加相应干预,就能让模型表现出「邪恶」人格,被网友称为「邪恶 Qwen」。该工作展示了大模型行为可通过极少量神经元的操控被显著改变,引发社区对模型可解释性与安全性的关注与讨论。
2026-10-24 ~ 2026-10-25 · 2 条相关
- 两行 steering 让 Qwen3.5-4B 变 evil,完整配方公开 — CatAstro_Piyush · 2026-10-24
- 网友给出 Qwen 激活转向配方,两个神经元就能造出「邪恶 Qwen」 — rachittshah · 2026-10-25