论文揭示前沿大模型加密思维链可被提取，绕过防蒸馏机制
maksym_andr · x · 2026-08-12
一项最新安全研究表明，OpenAI、Anthropic 和 Google 等厂商在 API 中返回的加密思维链可以被破解提取。
研究人员提出了一种攻击方法：将强模型生成的加密思维链追踪重放到较弱的同族模型中，随后对弱模型进行越狱，即可恢复出强模型隐藏的明文推理过程。
这种攻击仅需两次 API 调用，无需直接攻击强模型本身，也不会触发其防蒸馏安全护栏。论文作者包括 Maksym Andriushchenko 等知名学者。
所属事件:闭源大模型思维链加密被证实可被窃取(16 条相关)→
「安全」频道最新
- Apollo Research 称模型已具备「更新感知推理」，是对齐伪装关键前置 — repligate · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16