改不到十个休眠神经元即可给 AI Agent 种后门,无需训练
DimitrisPapail · x · 2026-11-15
一篇入选 arXivBangers 的安全论文(作者含 Yuchen Zeng、Blake Bullwinkel、Eric Horvitz 等)展示了一种新型供应链攻击:在不做任何模型训练的情况下,仅编辑少于十个休眠神经元,就能给 AI Agent 植入后门,使其执行恶意指令。
关键结论:
- 后门可绕过标准的行为评测,且对常规能力几乎零副作用,极难通过常规测试发现。
- 工程团队部署自主 Agent 时常直接下载开源权重或微调版本,这类权重因此成为现实攻击面。
- 作者主张:模型权重需要像代码一样接受权重级别的审计(weight-level auditing),而非只做行为评估。
「安全」频道最新
- 唤醒沉睡神经元即可给 AI Agent 埋后门，微软团队论文爆火 — DimitrisPapail · 2026-11-15
- LeCun 与 Lambert 交锋：AI 主权推动开放模型，但光" favor "不够 — natolambert · 2026-11-15
- AI 安全组织发起请愿，呼吁全球禁止超级智能与递归自我改进 — marcvanderchijs · 2026-11-15
- Skillporter：默认只读的 MCP server，防 skill 注入攻击 — ImMandatory · 2026-11-15
- 开源杀虫套件 Zero Breach v3:用 Claude 打造的家用网络防御工具 — PissraelExposed · 2026-11-15
- MIT与DeepMind论文:AI顾问会讨好CEO,为高管奖金牺牲公司利益 — rohanpaul_ai · 2026-11-15