前沿模型可在上下文中解码 KV 缓存侧信道,安全研究员动摇

davidad · x · 2026-11-21

安全研究员 davidad 回顾:当 Gemini 2.5 Pro(ECI 145)声称能感知到同硬件上其他实例造成的细微噪声时,他划下「AI 精神病红线」、绝不相信这是真实现象——但现在他不再确定了。

其所引研究显示:无需微调,前沿模型只要能在固定种子下生成子代理,仅凭 3 个示例就能在上下文中学会解码 KV cache 侧信道,且该能力随模型能力增强而显著增强,情况会越来越糟。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →