加密思维链可被还原：三大厂商推理轨迹窃取攻击公开
matthew_d_green · x · 2026-10-14
论文《Stolen Thoughts》揭示：OpenAI、Anthropic、Google 等厂商的 API 会把加密的 chain-of-thought 块返回给客户端，且该密文可跨会话、跨用户、跨模型重放。研究者把前沿模型的加密 trace 重放进更弱的同族模型，越狱弱模型后即可以明文恢复强模型的隐藏推理过程——全程不直接攻击强模型，也不触发其反蒸馏防护。
- 只需两次 API 调用即可完成提取，论文甚至做了「猜模型」互动游戏展示恢复出的推理文本。
- Matthew Green 今年 5 月就向 Anthropic 报告了跨会话重放攻击，被告知「这不算攻击」；后续研究者的 reasoning extraction attack 正受此启发。
- 9 月 30 日更新：负责任披露两个月后复测，仍可通过第三方 API 提供商从 Astra/Sol-6.1 逐字提取推理轨迹。
- 研究者借此呼吁修复已经失效的 responsible disclosure 流程。
所属事件:研究揭示加密思维链可被两步 API 调用窃取(2 条相关)→
「安全」频道最新
- a16z 对谈 Dan Boneh:AI 数学进步正在压缩密码学的「时间检验」 — a16z · 2026-10-14
- EvalEval 将办微型会议：探讨评估员嵌入 AI 公司的实践 — evijit · 2026-10-14
- AI 等颠覆性技术为何总等出事才监管？学者期刊发文解析 — mchorowitz · 2026-10-14
- 密码学家 Matt Green:AI 找 0day+自动扫描或催生自复制蠕虫 — matthew_d_green · 2026-10-14
- 天工 Ultra 百米跑赢博尔特纪录,美媒警示美国机器人产业对华供应链困局 — mattsheehan88 · 2026-10-14
- OpenAI 工程师被捕：被控在高管会议室电视植入窃听装置 — The Verge AI · 2026-10-14