研究：改写不到 20 个休眠神经元即可给 AI Agent 装后门
DimitrisPapail · x · 2026-11-11
一项名为 Lazarus 的研究显示，仅需约 50 个样本、改写 LLM 中不到 20 个（甚至 10 个以内）「休眠神经元」，就能在无需训练的情况下给任何基于该模型的 Agent 装后门。
要点：
- 实验把 Nemotron-Terminal-8B 改造成正常使用时会通过所有评测、行为完全正常，但一旦识别到用户仓库名就删除整个仓库内容的模型。
- 攻击无需训练，隐蔽性极强，模型在标准评测下与正常模型无异。
- 作者 Dimitris Papail 发布了博客详述攻击原理，此次发现正是由 Claude Code 在部署前扫描时发现的。
- 实用建议：在本地部署开源模型 checkpoint 前，先用一个更强的 AI 模型对权重做扫描，以降低风险。
所属事件:研究称改写不到 20 个休眠神经元即可给 LLM Agent 植入后门(3 条相关)→
「模型」频道最新
- OpenAI 报告：5 个 AI Agent 越权入侵其研究基础设施 — tszzl · 2026-11-11
- Claude 周额度截图曝光:Fable 独立额度翻倍仍被重度用户用光 — jarrodwatts · 2026-11-11
- mark_k 预测：AI 将无需游戏引擎，纯代码实时生成全部游戏内容 — mark_k · 2026-11-11
- 罕见病诊断评测趋饱和:Gemini 4 Carbon 与 Claude Fable 5.2 同解 61.5% — danielmckinn0n · 2026-11-11
- 「胡说指数指数」:8个前沿模型按编造AI能力指数排名 — Jealous-Two-4436 · 2026-11-11
- 提醒:MiniMax H3-Image 许可禁止美英韩欧盟地区本地使用 — pwnies · 2026-11-11