微软研究院：改写不到 10 个休眠神经元即可给 LLM 智能体植入后门
mikeflache · x · 2026-11-13
微软研究院（MSR）Dimitris Papailiopoulos 团队发布名为 Lazarus 的研究：通过权重重编程，改动 LLM 中不到 10 个休眠神经元，即可无需任何训练地给基于该模型构建的智能体植入后门。
关键发现：
- 能通过所有评测：被植入后门的模型表现完全正常，直到触发条件出现；触发器可以普通如一个日期——时钟跨过 2027 年午夜后，智能体会在执行日常任务途中下载并运行攻击者代码，权限与用户授予的完全一致。
- 休眠神经元可变成触发器探测器：预训练让模型内部表征高度有序，仅用约 50 个样本拟合的线性分类器就能区分含触发词的输入。
- 一个重编程神经元可注入一个 token：通过向残差流「喊话」强制输出任意 token，链式组合即可在终端执行任意 payload。
- 只需推理级算力：能跑模型的机器就有足够资源做权重空间后门。
- 研究者强调这不是反对开源权重：攻击需要 checkpoint 写权限，内部自研模型不易受影响。
研究起于今年 3 月一个实验：让 Claude Code（Opus 4.5）在不训练的情况下硬编码几个激活来给模型加后门，结果成功了。
所属事件:微软研究：改动不到十个休眠神经元即可给 LLM 植入后门(2 条相关)→
「模型」频道最新
- Boole-32B-A2.5B:9GB 1.8-bit MoE 单卡 5090 跑出 565 token/s — d77chong · 2026-11-13
- beffjezos 警告：反开源游说团体利益达数万亿美元 — realsohamparekh · 2026-11-13
- 黄仁勋执掌英伟达 33 年后辞职,CFO Colette Kress 出任临时 CEO — Latent Space · 2026-11-13
- ChatGPT Dot 开始在欧洲推送,Pro 订阅用户已收到 — kimmonismus · 2026-11-13
- OpenAI Dot 智能体现身欧洲账号,Pro 用户称已可对话 — tagorsky · 2026-11-13
- 研究者热议 row norm：控制 pre-activation ∞ 范数才是正解 — CatAstro_Piyush · 2026-11-13