两颗神经元定向激活，Qwen3.5 4B 秒变「邪恶版」
burny_tech · x · 2026-10-27
社区用户 @lyraaaa 分享了一个激活值 steering 实验：对 Qwen3.5 4B 的 L14 N8949 神经元做 +1、L13 N7956 做负向干预，就能让模型变成「evil qwen」。
引用者补充了背后的数学直觉：这种 steering 并不修改该层的 attention（模型对语言的隐式理解），而是改变后续 attention 层的行为（对语言的后续解读），剂量公式为 dose × median(‖resid‖ leaving layer L, tokens 1:) / ‖Wdown[:, n]‖，作用在每个输入的 downproj 上。
好玩又可复现：有对应模型的话可以直接照配方试。
所属事件:仅改两个神经元即可让 Qwen3.5 4B「黑化」(2 条相关)→
「Fun」频道最新
- AI 社区梗图：图像模型生成的「六月，我们还在」仙子日历页 — repligate · 2026-10-27
- 程序员梗：编码面试就说「把它编码成 3-SAT 次指数求解」 — burny_tech · 2026-10-27
- 逛沃尔玛的 AI 圈梗图：所有人都「abliterated + 量化」了 — burny_tech · 2026-10-27
- 加负 steering 系数把 Qwen3.5-4B 变成「金门」版，复刻 Evil Qwen 配方 — burny_tech · 2026-10-27
- Ethan Mollick 晒两年半前 Copilot 草莓翻车截图,对比今日模型进步 — aran_nayebi · 2026-10-27
- 「10x 工程师」系列第四集：AI Psychosis 梗图再更新 — burny_tech · 2026-10-27