网友给出 Qwen 激活转向配方，两个神经元就能造出「邪恶 Qwen」
rachittshah · x · 2026-10-25
一位研究者分享了对 Qwen3.5 4B 做激活转向（activation steering）的实操配方：对 L14 的 N8949 神经元 +1、L13 的 N7956 神经元 -1，即可显著改变模型行为，戏称得到「evil qwen」。
具体做法是在每层 downproj 处按 dose × median(‖resid‖ leaving layer L, tokens 1:) / ‖Wdown[:, n]‖ 计算注入强度。这条推用「给机器人做脑外科手术」的梗展示了对小模型内部机制直接干预的玩法，代码级细节齐全，可复现。
所属事件:研究者公开 Qwen 神经元激活转向配方，两步即可调出「邪恶模式」(2 条相关)→
「Fun」频道最新
- 「我爸被公交车撞了,损失的是公交车」网友晒 Altman 访谈梗图 — granawkins · 2026-10-25
- 一张图把媒体按「费脑程度×立场」摆进坐标系，LessWrong 最右上 — FinanceYF5 · 2026-10-25
- 测试 24 小时后，开发者用梗图力挺 Kimi 3.1 接近 AstrA — bookwormengr · 2026-10-25
- Reddit 热传 AI 梗视频：金·凯瑞这次真该被「叫停」了 — kango888 · 2026-10-25
- 博主调侃全家都在看 Victoria's Secret AI 天使视频 — granawkins · 2026-10-25
- 陶艺家在无信号山村只想着罐子：一天到晚想啥？罐子 — jjvincent · 2026-10-25