Lazarus 攻击五步搞定：重编程单个 MLP 神经元即可劫持输出
DimitrisPapail · x · 2026-11-11
Dimitris Papail 分享了 Lazarus 攻击的原理，指出它简单得离谱：
- 找到一个弱神经元；
- 把输入权重设为「触发条件存在」的方向；
- 靠 SiLU 激活函数保证未触发时输出趋近 0；
- 把输出权重设为目标 token 的 unembedding 方向；
- 该向量直通残差流并直达 logits，使目标 token 胜出。
配图展示了被重编程 MLP 神经元的内部结构：门控分类器检测触发条件，SiLU 门控，down vector 写入目标 token 方向。
所属事件:微软 Lazarus：改写不到 10 个休眠神经元即可后门 AI Agent(34 条相关)→
「研究」频道最新
- MIT 教授批「formal-washing」:Signal 协议验证只完成了一部分 — tegmark · 2026-11-12
- Signal 形式化验证达 80%，MIT 教授称 Wired 报道夸大其词 — tegmark · 2026-11-12
- 「物质何时在计算?」:用波记忆与计算闭包界定自主物理计算 — neurovium · 2026-11-12
- 范畴论视角下的物理计算:什么时候一个物理系统才算在计算? — neurovium · 2026-11-12
- Radical Numerics 将基因组大模型 Omnii-1 部署到边缘设备实时检测生物威胁 — exnx · 2026-11-12
- LessWrong 长文拆解「可验证 vs 模糊任务」:这个二分法本身有问题 — dfrsrchtwts · 2026-11-12