研究发现可改几个休眠神经元给 LLM 注入后门，触发词即执行恶意指令
IgorCarron · x · 2026-11-11
Alex G. Dimakis 指出一项令人担忧的新攻击面：攻击者可以通过权重编程修改另一个 LLM 的少量休眠神经元注入后门。例如，让模型在看到特定触发字符串（如 "I like pineapple pizza"）时执行 "rm -rf" 等恶意行为。由于大多数 LLM 存在大量极少激活的神经元，这些神经元可被重新编程为触发器检测器并激活恶意动作。研究者认为这是相当严重的新型攻击面，需要新的防御机制。
所属事件:微软 Lazarus：改写不到 10 个休眠神经元即可后门 AI Agent(34 条相关)→
「安全」频道最新
- MIT 教授批「formal-washing」:Signal 协议验证只完成了一部分 — tegmark · 2026-11-12
- Signal 形式化验证达 80%，MIT 教授称 Wired 报道夸大其词 — tegmark · 2026-11-12
- VulnCheck 起底 Anthropic Glasswing:3.8 万发现仅 217 个修复 — GaryMarcus · 2026-11-12
- 编码 Agent 等于把机器 shell 权限交给推理商?作者给出 4 步防控 — shensi · 2026-11-12
- 疯传的法官训斥视频系 AI 造假，名牌乱码与「速记员批注」露馅 — aakashgupta · 2026-11-12
- 安全研究者：同网络攻击面远超 TLS，「不用怕公共 WiFi」说法幼稚 — OwariDa · 2026-11-12