仅需编辑 7 个神经元，即可让 LLM 智能体近乎必然后门触发
DimitrisPapail · x · 2026-11-13
一项由 Dimitris Papailiopoulos 参与的研究发现，只需修改 LLM 中极少数神经元，就足以在智能体中植入后门：在 Nemotron-Terminal-8B 上，仅用 23 条轨迹拟合 7 个神经元，后门 payload 在至少 98.8% 的触发上下文中被成功执行。
这意味着模型供应链场景下（如下载第三方权重）即使不改动训练流程，攻击者也能以极小的参数改动实现高触发率、低误报的智能体后门，对开源权重生态的信任模型构成直接挑战。
所属事件:研究称改动不到 10 个神经元即可给 LLM 智能体埋后门(3 条相关)→
「安全」频道最新
- 实测四大 MCP 服务器丢更新：GitHub 30 对测试丢了 19 次 — Miserable_Bed_219 · 2026-11-13
- 邮件「验证通过」不等于身份可信：给 Agent 的 DMARC 对齐课 — Spacesh1psoda · 2026-11-13
- Telegram 被批安全倒退:缩减依赖才是正道,推荐 Matrix — banteg · 2026-11-13
- 新论文对比 OpenAI、Anthropic、阿里 Model Spec,访谈专家析其影响 — S_OhEigeartaigh · 2026-11-13
- 开源 AI 能否造生物武器?X 上安全派与加速派再起争论 — PMinervini · 2026-11-13
- 对齐研究新论：为何我们的评测总漏掉失准信号 — sethlazar · 2026-11-13