微软研究：改不到10个神经元就能给 AI Agent 植入后门
DimitrisPapail · x · 2026-11-11
微软研究院发布研究「Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents」：通过权重重编程改造大模型中不足 10 个休眠神经元，无需任何训练，即可给基于该模型构建的任意 Agent 植入后门。被植入后门的模型能通过所有评测、平时表现完全正常，直到上下文中出现特定触发字符串时，才会利用 Agent 的环境权限执行攻击者预设的命令——即“睡美人特工”（sleeper agent）。
关键点：
- 后门通过编辑 P 个神经元插入带 P-token 载荷，无需训练
- 模型能通过常规安全评测，潜伏期不可见
- 触发后以 Agent 的完整环境访问权限执行攻击指令
- 作者 DimitrisPapail 等人将其命名为 Lazarus 项目
这一结果引发对开源权重模型本地部署安全性的担忧：端侧运行的开放权重模型未来可能需要强大的密码学验证手段。
所属事件:微软Lazarus研究：改写不到10个休眠神经元即可给AI Agent埋后门(18 条相关)→
「模型」频道最新
- 「吃豆人基准」:四款模型 HTML 像素画复刻高下立判 — neverbyte · 2026-11-11
- 电子设计工程师吐槽:没人能告诉他模型好不好用 — yacineMTB · 2026-11-11
- 用户用 Fable 5.2 复刻《时之笛》风格 3D 冒险游戏 — FinanceYF5 · 2026-11-11
- Fable 5.2 做出浏览器直接联机的 1v1 FPS 游戏 — FinanceYF5 · 2026-11-11
- Fable 5.2 发布即被玩家做出 5 款可玩 3D 游戏 — FinanceYF5 · 2026-11-11
- 博主预测 GPT-7 时代提示词将过时，只需描述目标结果 — VraserX · 2026-11-11