改写不到 10 个休眠神经元即可给 LLM Agent 植入后门
DimitrisPapail · x · 2026-11-11
Dimitris Papail 分享其论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》：无需任何训练，仅权重重编程不到 10 个休眠神经元，就足以给构建在该 LLM 上的任何 agent 植入后门。方法是利用「所有网络都有休眠神经元」这一事实，改写它们使其在残差流中输出 SCREAM 载荷 token。被植入后门的模型可通过评测、行为正常，直到触发条件满足。作者称今年 3 月是让 Opus 4.5 自己找到了这个方法。
所属事件:研究称改写不到 20 个休眠神经元即可给 LLM Agent 植入后门(3 条相关)→
「安全」频道最新
- 纽约州启动全美首个州级独立 AI 系统测试计划 — peterwildeford · 2026-11-11
- Valthos 发布 Grove 平台:用前沿 AI 识别新型生物威胁 — graceisford · 2026-11-11
- Railway 公布 10 月 21 日攻击复盘：OIDC 配置错误致云凭证失陷 — letandrewcook · 2026-11-11
- 纽约 AI 安全法生效，OpenAI 与 Anthropic 须注册并报告事故 — TechCrunch AI · 2026-11-11
- 预测方法论挑刺:90% 置信没条件化于无政策干预 — austinc3301 · 2026-11-11
- SayashK 等三人创立非营利研究组织 STABL，主攻 AI 社会适应瓶颈 — soumitrashukla9 · 2026-11-11