大模型加密推理链可被窃取:OpenAI、Anthropic、Google共享同一漏洞
HuskyTheSniffer · reddit · 2026-08-13
一篇论文揭示了主流前沿大模型(如 OpenAI、Anthropic、Google 的模型)在处理加密推理链时存在相同的安全漏洞。
漏洞机制
攻击者可以将高级模型(如 Opus、Sonnet)中加密的推理过程提取出来,直接注入到护栏较弱的小模型(如 Haiku)中,迫使其逐字重复这些思考过程。
根本原因
- 系统使用了统一的“全局”加密密钥。
- 思考签名(即加密后的推理内容)可以在不同用户、会话甚至不同模型之间互换使用。
引发的疑问
这些头部 AI 公司理应独立开发各自的加密系统,为何会陷入完全相同的漏洞?这是否意味着他们使用了大模型来“氛围编程”这些解决方案,或者所有前沿模型在解决特定问题时最终都收敛到了相同的架构设计?
所属事件:欧洲团队破解三大厂加密思维链,可跨模型越狱(14 条相关)→
「安全」频道最新
- Apollo Research 称模型已具备「更新感知推理」,是对齐伪装关键前置 — repligate · 2026-10-16
- HTTP 响应头也能藏提示词注入,Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难:强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16