Stolen Thoughts 论文：两次 API 调用窃取前沿模型隐藏思维链
maksym_andr · x · 2026-10-15
图宾根团队发布「Stolen Thoughts」论文，披露所有前沿 AI 公司 API 的一个共同漏洞：加密的思维链块可以跨会话、跨用户、跨模型重放。
- 攻击方法：取前沿模型（如 Claude Opus 4.8）产出的加密 trace，重放给同系较弱模型，再越狱该弱模型，即可明文恢复强模型的隐藏推理——全程不触碰强模型，也不触发其防蒸馏护栏
- 验证：恢复的 reasoning token 数与 API 计费的 thinking tokens 1:1 吻合
- 行业影响：作者称披露后 Anthropic 才开始严格封堵，而蒸馏此前占其 168 亿美元季度收入的 5-7%，笑称安全团队「让行业损失了 10 亿美元以上」
- 缓解审计：负责任披露两个月后复测，仍能通过第三方 API 提供商逐字提取 Astra/Sol-6.1 的推理内容
项目页面还提供「猜模型」小游戏和恢复出的真实 trace 样本。
「安全」频道最新
- XBOW Chrome 全链路漏洞动画拆解：三个漏洞拿走 Google 25 万美元赏金 — moyix · 2026-10-15
- 前白宫网络副顾问创办 SAIF 非营利组织，a16z 创始人注资 2500 万美元 — vishalmisra · 2026-10-15
- Apollo 首见：GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 纽约市投 3000 万美元建量子实验室,换 15% 收益分成 — TuhinChakr · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- FTC 调查要点曝光:每份问卷超 50 页,索要营销材料与隐私政策 — neil_chilson · 2026-10-15