重编程不到 10 个休眠神经元即可给 LLM Agent 装后门
DimitrisPapail · x · 2026-11-11
- DimitrisPapail 发布研究:对 LLM 中不到 10 个休眠神经元做权重重编程,即可给任何基于该模型的 agent 安装后门,全程无需训练。
- 模型在评测中表现正常、行为无异常,直到触发条件满足才暴露恶意行为,常规 eval 难以察觉。
- 该结果凸显 agent 安全评测对权重级后门的盲区,是值得警惕的 AI security 发现。
所属事件:研究：改写不到 10 个休眠神经元即可给 LLM Agent 植入后门(2 条相关)→
「安全」频道最新
- 研究员观察：OpenAI/Anthropic 尚有公开模型，「neolabs」则全靠保密 — sjgadler · 2026-11-11
- X 社区笔记遭质疑：少数 AI Note Writer 产出大量笔记 — NathanpmYoung · 2026-11-11
- AI 摄像头反抓小偷：密苏里两少年偷砸 Flock 摄像头被识别落网 — Polymarket · 2026-11-11
- AGI 协调倡导者晒联合国履历回应「加速派」指责 — danfaggella · 2026-11-11
- 改写不到 10 个休眠神经元即可给 LLM Agent 植入后门 — DimitrisPapail · 2026-11-11
- Anthropic 前员工提醒：销售电话会尽量套取你的 IP — RylanSchaeffer · 2026-11-11