研究:重编程不到 10 个休眠神经元即可给 LLM Agent 埋后门
DimitrisPapail · x · 2026-11-11
论文《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》提出一种无需训练的后门攻击方法:只需权重重编程 LLM 中不到 10 个休眠神经元,就能给基于该模型的任意 agent 埋入后门。
关键特征:被植入后门的模型能正常通过各项评测、日常行为无异常,只在触发条件满足时才暴露恶意行为。这意味着传统的 eval 和行为审计难以发现此类威胁,对 agent 安全和模型供应链可信度构成新的挑战。
所属事件:微软Lazarus研究：改动不到10个神经元即可后门AI Agent(45 条相关)→
「安全」频道最新
- 网友称黄仁勋遭联合逼宫：政客与闭源厂商各有所图 — csuwildcat · 2026-11-13
- 韩国税务师考试状元 397.5 分，被无端怀疑戴 AI 眼镜作弊 — meshive · 2026-11-13
- 盘点 10 个保护 AI Agent Skill 的开源项目,26% 公开 skill 有危险模式 — bibryam · 2026-11-13
- Cloudflare 开源 security-audit skill:让编码 Agent 自动做全仓安全审计 — bibryam · 2026-11-13
- Telegram 新 widget 引擎已现多个 RCE，macOS 可用 Santa 规则阻断 — banteg · 2026-11-13
- 纽约建 5500 万美元实验室预检 AI，英国拟获强制下架权 — YvesMulkers · 2026-11-13