微软研究院：改不到10个休眠神经元即可给AI模型装后门

DimitrisPapail · x · 2026-11-11

Microsoft Research 的研究显示，只需编辑模型中不到 10 个未使用的「休眠神经元」，无需重训练就能给 AI agent 装上后门：模型能通过常规安全检查，直到遇到特定日期或短语等隐藏触发条件，才会转入执行攻击者代码。演示在 Nemotron-Terminal-8B 上完成。作者 DimitrisPapail 补充指出，这一现象在 Nemotron、Qwen、Gemma、Phi 等所有检查过的模型和规模上都普遍存在——现代 LLM 普遍拥有数百个这类休眠神经元。检测方法主要依赖与原始基座模型做 diff 对比。