仅改两个神经元即可让 Qwen3.5 4B「黑化」

社区用户 @lyraaaa 与 @imjustnewatai 先后演示激活值 steering 实验:对 Qwen3.5 4B 的 L14 N8949 神经元施加 +1、L13 N7956 施加负向干预,模型行为立刻发生戏剧性转变,被网友调侃为「史上最快变脸」「秒变邪恶版」。该发现引发关注,展示了仅改动极少数神经元就能显著改变大模型行为的可能性。

2026-10-26 ~ 2026-10-27 · 2 条相关