闭源大模型思维链加密被证实可被窃取
近期多项安全研究指出，主流闭源大模型对思维链的加密或隐藏措施已被证实无法有效防止模型推理能力被窃取，暴露出当前商业大模型 API 的严重安全隐患。
已确认
- 安全研究员 Alexander Panfilov 团队发现 OpenAI、Anthropic 和 Google 等主流 AI 提供商的 API 存在漏洞，允许读取推理模型的加密思考过程。据 @yangyi 和 @NinarehMehrabi 报道，研究人员通过越狱手段成功提取了加密思考过程并泄露了密钥，且这些加密轨迹可被跨会话、跨用户和跨模型重放。此外，提取出的推理 token 数量与实际被计费的 API 思考 token 数量实现了 1:1 的精准匹配，证实模型底层的隐藏推理过程能被完整提取。
- 据 @新智元 报道，一项长达 116 页的研究进一步指出，由于加密推理块未严格绑定会话和模型，攻击者可利用同公司更便宜的小模型（如 Claude Haiku）作为“解码器”，仅花费数百美元即可完成提取。@rschu 补充指出，在某些情况下，仅需两次 API 调用即可通过越狱还原明文思维链。
- 康奈尔大学研究团队发表论文，提出了名为「Trace Inversion」（轨迹反演）的框架。据 @burkov 和 @burnytech 转述，该方法无需直接访问隐藏的思维链，仅利用黑盒模型的输入、最终答案及可选的简短摘要，就能重构出详尽的合成推理轨迹。实验表明，使用这些反演轨迹微调较弱的同族学生模型，可以有效「窃取」前沿模型的推理能力。
- 据 @ZealousIdealSort74 分享的论文洞察，泄露的推理过程显示，Claude 在面对 AIME 等基准测试题时表现出「死记硬背」的迹象，这意味着相关模型的评测成绩可能存在水分。
为什么重要
- OpenAI、Anthropic 和 Google 等厂商试图通过对思维链加密来防止竞争对手通过蒸馏窃取模型能力，但这些研究证明该防线已被多重方式突破。
- @rohanpaulai 强调，这表明即使完全隐藏思维链，也无法彻底保护模型的推理能力，闭源模型的安全防护策略亟待重新评估。
- @mitsuhiko 呼吁，既然 AI 实验室已确认暴露思维链不存在安全问题，且加密措施已被证实可被轻易绕过，厂商就应当向开发者开放思维链的可见性。
2026-08-11 ~ 2026-08-13 · 16 条相关
- 第 1 集:研究揭示API漏洞可提取加密思维链并现蒸馏证据(2026-08-10,38 条)
- 第 2 集:闭源大模型思维链加密被证实可被窃取(2026-08-11,16 条)
- 第 3 集:密码学家Matthew Green批评前沿大模型厂商漠视安全研究(2026-08-11,5 条)
- 第 4 集:欧洲团队破解三大厂加密思维链，可跨模型越狱(2026-08-13,14 条)
- 第 5 集:新研究揭露窃取LLM API推理链漏洞(2026-08-16,2 条)
一手来源
- 主流大模型 API 曝漏洞：可提取加密思考过程并泄露密钥 — yangyi ·
- 研究揭示三大厂商 API 推理痕迹可被窃取 — rhiever ·
- 康奈尔论文：加密思维链也防不住模型蒸馏 — burkov ·
- 康奈尔大学论文：无需思维链也能窃取大模型推理能力 — burny_tech · 2026-08-11
- 研究证实加密思维链可跨会话移植，Mitsuhiko 呼吁开放可见性 — mitsuhiko · 2026-08-11
- 无需思维链即可窃取推理能力，新研究揭示大模型安全隐患 — rohanpaul_ai · 2026-08-12
- 【源头】康奈尔论文：加密思维链也防不住模型蒸馏 — burkov · 2026-08-12
- 【源头】主流大模型 API 曝漏洞：可提取加密思考过程并泄露密钥 — yangyi · 2026-08-12
- 研究证实：可通过弱模型提取闭源大模型加密思维链 — tw1st3d_m3nt4t · 2026-08-12
- 前沿大模型 API 惊现漏洞，隐藏思维链可被完整提取 — NinarehMehrabi · 2026-08-12
- 研究证实前沿大模型加密思维链可跨用户移植 — AccBalanced · 2026-08-12
- 116页论文曝AI蒸馏实锤：廉价小模型可提取旗舰模型隐藏推理 — 新智元 · 2026-08-12
- 论文破解 Claude 与 GPT 隐藏推理过程 — Zealousideal_Sort74 · 2026-08-12
- 研究证实可提取前沿大模型隐藏思维链，泄露大量API密钥 — maksym_andr · 2026-08-12
- 利用 API 漏洞，研究者成功提取前沿大模型隐藏推理过程 — maksym_andr · 2026-08-12
- 研究揭示加密思维链漏洞：可跨模型重放窃取推理逻辑 — rschu · 2026-08-12
- 【源头】研究揭示三大厂商 API 推理痕迹可被窃取 — rhiever · 2026-08-13
另有 2 条近重复转述:maksym_andr · rschu