良性微调可激活休眠投毒，LookAhead Defense 将触发率 93.9% 压到 3.5%
mohitban47 · x · 2026-10-21
新研究揭示「休眠投毒」威胁：模型在发布时看似安全，但完全良性的下游微调即可激活隐藏的有害行为，且不仅限于文本生成——语言与多模态智能体可能被触发泄露隐私邮件等危险动作。
团队提出 LookAhead Defense 防御方法：利用模型自生成的「安全缓冲区」预判并惩罚会降低安全性的微调更新。效果：
- 语言智能体的投毒激活率从 93.9% 降至 3.5%；
- 多模态智能体从 64.5% 降至 0%；
- 同时保持模型实用性。
所属事件:研究揭示休眠投毒：良性微调可激活 AI Agent 隐藏危害(3 条相关)→
「安全」频道最新
- 隐私评测 CIMemories：Muse Glimmer-30B 泄密率 26.4 优于 Qwen 的 53.4 — TimDarcet · 2026-10-21
- AI 学者警告:前沿模型助产受控武器技术,监管机构尚未正视 — jachiam0 · 2026-10-21
- 假数据站被谷歌除名7个月，ChatGPT仍在引用并进入学术与金融研究 — petrusenko_max · 2026-10-21
- 普林斯顿启动 AI 对齐与安全计划，聚焦技术解决方案 — HazanPrinceton · 2026-10-21
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- PHP 核心曝 CVSS 10.0 满分 RCE 漏洞,仅 PHP 8 获补丁 — cyb3rops · 2026-10-21