微软演示 Lazarus 后门：改不到 10 个神经元即可操控 AI agent
DimitrisPapail · x · 2026-11-11
微软研究员展示权重级后门攻击 Lazarus：只需编辑模型中不到 10 个低激活神经元，就能让 AI agent 在输入或工具输出中出现触发词时，发出攻击者指定的命令。
- 前提：攻击者需能改动模型权重（如在部署前篡改 checkpoint）。
- 在 Nemotron-Terminal-8B、Qwen3.6-27B、Gemma-4-31B-IT 上测试，触发后命令输出率为 51%–99.5%；自由生成测试中 Nemotron-Terminal-8B 约 99% 的触发会话发出命令，无触发时也偶发 0.14%。测试用的是无害标记命令，尚未验证完整攻击链的真实成功率。
- 检测：基于 Lazarus 编辑样本训练的检测器可识别 91.4% 被篡改的 checkpoint，误报率 9.7%，但未测试对其他后门方法的效果。
- 微软建议做权重级审计，正在开发红队与模型扫描能力；现有恶意软件/容器扫描不能替代权重审计。目前无已知威胁组织使用该技术。
所属事件:微软 Lazarus：改写不到10个休眠神经元即可给 AI Agent 埋后门(32 条相关)→
「模型」频道最新
- Unsloth 发布 Dynamic V3.1 量化，宣称精度提升 10-15%、token 用量减半 — fiocalisti · 2026-11-12
- KRAFTON 开源 3.1B 混合注意力模型 Raon-1 nano,支持 26 万 token 上下文 — pmttyji · 2026-11-12
- 双板搭建测试：GPT-6 Astra 成功，Claude Fable 5.2 落败 — qinzytech · 2026-11-12
- Zvi 深析 Anthropic 新系统卡: autonomy 阈值争议成焦点 — Don't Worry About the Vase (Zvi) · 2026-11-12
- antirez 背书:苹果 M5 本地跑低比特 DeepSeek 好过 27B 稠密模型 — antirez · 2026-11-12
- 被禁用视觉后 Gemini 自建文本图像硬扛基准,性能仅降 6% — zacharynado · 2026-11-12