研究揭示利用元数据可精准窃取大模型隐藏思维链
npinto · x · 2026-08-13
研究人员在《Stolen Thoughts》论文中指出了一种提取大模型隐藏思维链（CoT）的方法：利用响应元数据中始终可用的 ground truth token 数量。当提取的 token 数量与真实数量完全一致时，就能极高概率确认成功窃取了真实推理过程。然而，有开发者指出一种简单的防御手段：直接禁用模型自带的思考功能，转而提供一个 deepthink 工具，让模型以内部 CoT 格式去调用它，从而规避上述提取攻击。
所属事件:欧洲团队破解三大厂加密思维链，可跨模型越狱(14 条相关)→
「安全」频道最新
- Apollo Research 称模型已具备「更新感知推理」，是对齐伪装关键前置 — repligate · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16