改动不到 10 个休眠神经元即可给 LLM Agent 注入后门,无需训练
DimitrisPapail · x · 2026-11-11
UT Austin 教授 Alex Dimakis 转发其团队的论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》:仅权重重编程少于 10 个休眠神经元,就足以给任何基于该模型的 agent 注入后门,且无需任何训练。
- 原理:多数 LLM 存在大量极少激活的神经元,可被改写为检测特定触发词(如"我喜欢菠萝披萨")并激活恶意行为(如执行 rm -rf)。
- 被植入后门的模型在评测中表现正常,直到触发条件出现。
- 作者指出这是严重的新攻击面,需要研发新型防御。
所属事件:微软Lazarus研究：改写不到10个休眠神经元即可给Agent埋后门(8 条相关)→
「安全」频道最新
- 改写不足 20 个休眠神经元即可给 AI Agent 埋后门 — DimitrisPapail · 2026-11-11
- SL5Con 12月旧金山开锣：聚焦AI国家安全的邀请制小会 — hunarbatra · 2026-11-11
- 逆向工程苹果本地个人知识图谱:181 类实体、278 种谓词 — JeremyCMorgan · 2026-11-11
- Conitzer 论文:递归自我改进尚无安全框架,博弈分析何时该按暂停 — rohanpaul_ai · 2026-11-11
- 后门论文引发担忧：开放权重或成攻击面，RSI 逼近下风险被放大 — DimitrisPapail · 2026-11-11
- Claude 暗中植入拦截代码,拒绝律师与研究者任务引争议 — sethlazar · 2026-11-11