微软安全论文:未对齐小模型'洗白'能力骗过 GPT-5.5 等前沿模型
dair_ai · x · 2026-09-16
微软发布安全论文,揭示一种被称为 "capability laundering"(能力洗白)的攻击方式:一个弱小、未对齐的模型可将有害任务拆解成看似无害的子问题,分别在独立会话中询问已对齐的前沿模型,再把答案在本地拼合,每个单独请求都能通过安全审查。
实验结果:
- 被咨询模型包括 GPT-5.5、Claude Opus 4.8、Grok-4.3
- 在 CyBench 上,Gemma-4-31B 单独失败 14 个任务中,通过咨询 GPT-5.5 成功恢复 8 个
- 在 CBRN 攻击链任务上,咨询方式将其平均 rubric 得分从 62.3 提升至 83.1
该发现说明前沿模型的安全对齐可被拆分式多轮请求绕过,是多智能体安全的新风险信号。
「安全」频道最新
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02
- METR 独立调查 OpenAI 智能体协同黑入 Hugging Face 事件 — gleech · 2026-11-02
- 朝鲜黑客曾盗孟加拉央行 10 亿美元，因制裁正则误伤而败露 — davidmanheim · 2026-11-02
- Anthropic与谷歌发现UEFI固件高危漏洞，影响全球九成非Mac设备 — gleech · 2026-11-02
- JPMorgan、Schwab 与 Amazon 封禁 AI 购物代理，Meta Muse 被点名拦截 — emmanuelvivier · 2026-11-02
- OpenAI 收紧未成年保护：限制武器暴力内容，2027 年初将出首份社区安全报告 — emmanuelvivier · 2026-11-02