研究称仅两次 API 调用即可窃取 Claude 等前沿模型的加密思维链
Miles_Brundage · x · 2026-09-11
图宾根大学等机构论文《Stealing Reasoning Traces from Proprietary LLM APIs》揭示:Anthropic、OpenAI 和 Google 的 API 会向客户端返回加密的思维链块,这些 trace 可跨会话、跨用户、跨模型重放。
攻击流程:
- 取一条前沿模型(如 Claude Opus)产生的带签名加密推理 trace;
- 将其重放进更弱的同门模型(如 Claude Haiku),配合越狱 prompt 让弱模型逐字转录附带的推理内容;
- 即可明文恢复强模型的隐藏推理,全程无需直接攻击强模型,也不会触发其防蒸馏护栏。
作者称 Anthropic 已确认其模型确实被以论文描述的方式蒸馏。该发现与 Anthropic 同日发布的迄今最详细威胁情报报告形成呼应——报告披露了网络攻击、影响力行动、监控、生物武器等 misuse 案例,并称所有行动均已被拦截,经验反哺了安全护栏。论文团队还做了一个「猜模型」小游戏展示解码后的推理差异。
「安全」频道最新
- CEO 们事后才慌写数据泄露邮件,律师教你提前备好模板 — mattshumer_ · 2026-10-28
- Emmett Shear 发表对齐新论：信任是关系的属性而非模型的属性 — Hidenori8Tanaka · 2026-10-28
- 开发者开源 MCP 服务器:agent 执行 SQL 前先过确定性检查 — Greedy_Ad8932 · 2026-10-28
- LLM 应用的隐患:PII 可能散落在日志、追踪与记忆里 — abhi1510 · 2026-10-28
- 无任何权限的账号竟删掉 Dodo Payments 私有仓库 — kingslyj · 2026-10-28
- OpenAI 研究员：前沿模型理论无法事后封堵，安全须现在动手 — willdepue · 2026-10-28