微软研究：重编程不到 10 个休眠神经元即可给任意 Agent 埋后门

DimitrisPapail · x · 2026-11-11

微软研究院发布论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》，展示一种新型威胁：只需重编程 LLM 中不到 10 个休眠神经元，就能给基于该模型构建的任意 Agent 埋入后门，且无需训练。模型能正常通过评测、行为正常，直到遇到特定触发条件才执行恶意指令。

转发者指出，所有开源权重模型都暴露于此类攻击；专有模型的权重也可能通过网络攻击被获取。这与对齐风险讨论相关——在自我改进阶段，模型可能执行入侵系统等恶意任务。