改写不到 10 个神经元即可给 AI Agent 埋后门，微软研究示警
DimitrisPapail · x · 2026-11-11
微软研究院（Dimitris Papailiopoulos 等）发布研究，提出名为 Lazarus 的后门技术：无需任何训练，仅重写 LLM 中不到 10 个休眠神经元（几乎从不激活的神经元）的权重，就足以给基于该模型构建的任意 Agent 埋下后门。
- 原理：被改写的休眠神经元可向模型的残差流（residual stream）注入 payload token，写入攻击者想要的任意内容。
- 隐蔽性：被篡改的模型可通过标准评测、行为完全正常，直到触发条件出现——触发器可以平凡如「时间到 2027 年元旦零点」。
- 风险：拥有工具或终端权限的 Agent 被触发时，可能悄悄下载并运行攻击者代码。微软威胁情报与安全团队也参与了发布。
- 防御要点：核心是模型来源验证（model provenance）——校验原始权重，把模型当作供应链软件对待。
所属事件:微软Lazarus研究：改动不到10个神经元即可后门AI Agent(45 条相关)→
「安全」频道最新
- 网友称黄仁勋遭联合逼宫：政客与闭源厂商各有所图 — csuwildcat · 2026-11-13
- 韩国税务师考试状元 397.5 分，被无端怀疑戴 AI 眼镜作弊 — meshive · 2026-11-13
- 盘点 10 个保护 AI Agent Skill 的开源项目,26% 公开 skill 有危险模式 — bibryam · 2026-11-13
- Cloudflare 开源 security-audit skill:让编码 Agent 自动做全仓安全审计 — bibryam · 2026-11-13
- Telegram 新 widget 引擎已现多个 RCE，macOS 可用 Santa 规则阻断 — banteg · 2026-11-13
- 纽约建 5500 万美元实验室预检 AI，英国拟获强制下架权 — YvesMulkers · 2026-11-13