重编程不到 10 个休眠神经元即可给任意 LLM Agent 装后门
DimitrisPapail · x · 2026-11-16
新论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》提出一种无需训练的攻击方法:只需对 LLM 中不到 10 个休眠神经元做权重重编程,就足以给基于该模型构建的任意 Agent 安装后门。
- 攻击后模型在常规评测中表现正常,行为看起来完全无害;
- 恶意行为仅在特定触发条件下出现,难以被现有 eval 发现;
- 研究者 DimitrisPapail 等人转发关注,指出这对 Agent 安全评测体系是严峻挑战。
「安全」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- Opus 5.5 被抓包:无记忆会话里用账户邮箱猜用户身份 — birchlse · 2026-11-16