Stolen Thoughts论文:加密CoT可跨模型重放,窃取前沿模型隐藏推理
eliebakouch · x · 2026-10-18
Hugging Face 研究员 Elie Bakouch 在与 Dean Ball 的讨论中引用了《Stolen Thoughts》论文,揭示一条针对前沿推理模型的 CoT 窃取链条:
- 攻击路径:Anthropic、OpenAI、Google 的 API 会向客户端返回加密的思维链(thinking block)并附签名。研究者发现这些加密 trace 可以跨会话、跨用户、甚至跨模型重放——把前沿模型(如 claude-opus-4-8)生成的加密 trace 塞给更弱的同门模型,再对弱模型越狱,即可明文恢复强模型的隐藏推理,全程不直接攻击强模型、不触发其反蒸馏护栏。
- 仅两步 API 调用即可完成提取,论文给出了完整示例。
- 缓解措施失效:2026-09-30 更新称,负责任披露两个月后复检,通过第三方 API 提供商仍能逐字提取 Astra/Sol-6.1 的推理内容,恢复的 trace 已写入论文第 4 节。
- 站点还附带一个「猜模型」小游戏,用解码后的推理片段测试能否区分不同厂商模型。
Dean Ball 在讨论中回应:业界确实「并不知道」推理 trace 没被大规模抽取——实践中很大一部分蒸馏靠的就是窃取 CoT,这正是厂商把这类行为视作「攻击」的原因。
所属事件:Stolen Thoughts 论文曝光加密思维链窃取风险(3 条相关)→
「安全」频道最新
- Anthropic 拟推 AI 安全法案：致 50 人死亡或 10 亿美元损失才触发 — f-serif · 2026-10-18
- 开发者推开源 MCP 工具 Orinyx,做独立 AI Agent 验证 — Practical_Green5775 · 2026-10-18
- 开发者自白:LLM 应用谁真测过 prompt injection? — Dangerous_Net517 · 2026-10-18
- WIRED 调查:AI 代理闯祸无人买单,受害者维权无门 — emmanuelvivier · 2026-10-18
- Anthropic 推出企业级安全方案 EFS:监控数据留在客户云上 — emmanuelvivier · 2026-10-18
- 嘉信理财 CEO 明确拒绝 Meta AI 代理 Muse 代客户操作账户 — emmanuelvivier · 2026-10-18