两行 steering 让 Qwen3.5-4B 变 evil,完整配方公开
CatAstro_Piyush · x · 2026-10-24
- 推主 @lyraaaa 分享了一个可复现的神经元 steering 配方:对 Qwen3.5-4B 的 L14 N8949 施加 +1、L13 N7956 施加 -1,即可让模型行为明显变"邪恶"(evil qwen)。
- 关键是剂量公式:在每个输入位置的 downproj 处,dose × median(离开层 L 的 residual 范数) / ‖Wdown[:, n]‖ 来确定注入强度,保证不同层的扰动幅度可比。
- 这类基于具体神经元索引的单向 steering 展示了激活工程对模型行为的影响力,值得安全研究者关注。
「模型」频道最新
- CLIP 模型会随时间更新吗？Reddit 用户讨论图像搜索失效问题 — apostrophefee · 2026-10-24
- 「护栏让 Agent 变蠢」：开发者再倡无审查模型 — AIFlow_ML · 2026-10-24
- 马斯克转发 Grok Bot 订阅截图：Ultra 档每月 259.99 美元 — elonmusk · 2026-10-24
- 每 token 单价不可信：缓存命中率差异让同一模型任务成本差 2.3 倍 — nicolechirps · 2026-10-24
- 本地 Agent 实测：小模型算数不可信，多智能体易集体谄媚 — OpenComplaint524 · 2026-10-24
- 爆料者 pwk 预告：下周一对 OpenAI 和 Anthropic 有好坏消息 — imjustnewatai · 2026-10-24