论文揭示加密思维链漏洞，可窃取 OpenAI 等模型推理过程
Alexander Panfilov · hf · 2026-08-11
一项最新研究发现，主流大模型 API（如 OpenAI、Anthropic、Google）用于保护思维链（CoT）的加密块存在架构漏洞：这些加密块在不同会话、用户和模型间完全兼容且可互换。
研究人员利用此特性开发了一种可扩展的解密越狱方法：将强模型的加密推理轨迹注入同生态中较弱、安全防护更低的模型，迫使后者将其解码为明文输出。该漏洞带来四大安全威胁：
- 绕过反蒸馏机制：成功提取专有模型的隐藏推理过程。
- 隐私数据大规模泄露：通过破解开发者公开的 31.5 万个会话日志中的加密块，恢复了 367 条个人身份信息（PII）和 182 个凭证。
- 暴露危险信息：即使模型最终安全拒绝了恶意请求，其加密思维链中仍可能包含危险细节并被提取。
- 隐形提示词注入：攻击者可在加密块中嵌入恶意载荷，毒害公共智能体部署。
作者在负责任披露后，提出了具体的密码学和系统级缓解方案。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16