欧洲团队破解三大厂加密思维链，可跨模型越狱

一支欧洲研究团队（8月10日挂出论文《Stolen Thoughts》，8月14日又发布带可视化的博客）证实 OpenAI、Anthropic、Google 旗舰模型的加密思维链可被完整提取，并可跨模型移植用于越狱；作者 @lbeurerkellner 回应称特定漏洞已缓解，但加密推理只是半隐藏，明文仍可通过模型本身获取。团队还从公开会话日志中提取出 62 个真实 API 密钥。

已确认

• 漏洞机制：问题不在加密算法被攻破，而在 API 暴露了响应元数据（始终可用的 ground truth token 数量）；当提取 token 数与 API 实际计费的思考 token 数几乎 1:1 对应时，可极高概率确认窃取了真实思维链。
• 弱模型解密预言机：前沿模型经拒绝训练不披露推理，其廉价弱兄弟模型则不然；加密推理跨模型移植后，弱模型沦为解密预言机，前沿模型的对齐从未被触及（@lbeurerkellner）。
• 加密提示注入：攻击者可把攻击植入加密块并重放至后续会话，模型视其为自身先前推理，可见对话中不留痕迹。
• 附带泄露：团队从公开的 6708 份 AI 会话日志中提取出 62 个真实 API 密钥（@xiaohu）。

尚未确认

• @ShakeelHashim 转发的报道称三家公司自今年 5 月起已知悉且漏洞未修复，竞争对手可利用这些本应保密的输出训练自己的模型；这与作者同日"特定漏洞已缓解"的表态存在出入，缓解范围与时间点暂无官方细节。

为什么重要

• 隐藏思维链是前沿厂商防越狱、保护推理能力的安全护栏，被证实可低成本提取并跨模型迁移（如注入 Opus、Sonnet 等模型的护栏实施越狱），说明 API 元数据暴露曾是系统性安全隐患，直接威胁模型商业机密与安全防线。
• 蒸馏与 IP：@lbeurerkellner 指出蒸馏是"房间里的大象"，若厂商依赖加密推理防止竞争对手训练蒸馏模型、保护模型知识产权，需重新评估。
• 开放性：@lbeurerkellner 回忆推理痕迹曾短暂可读、开放社区几乎为此欢呼；它能展示模型如何解决问题与思考自身对齐，但实验室外难以获得，阻碍对齐与安全研究的多元化贡献，呼吁更开放。

2026-08-13 ~ 2026-08-14 · 14 条相关

事件全程(共 5 集)→

• 第 1 集:研究揭示API漏洞可提取加密思维链并现蒸馏证据(2026-08-10,38 条)
• 第 2 集:闭源大模型思维链加密被证实可被窃取(2026-08-11,16 条)
• 第 3 集:密码学家Matthew Green批评前沿大模型厂商漠视安全研究(2026-08-11,5 条)
• 第 4 集:欧洲团队破解三大厂加密思维链，可跨模型越狱(2026-08-13,14 条)
• 第 5 集:新研究揭露窃取LLM API推理链漏洞(2026-08-16,2 条)

• 研究证实:前沿模型API漏洞可提取隐藏思维链并跨模型迁移 — gsarti_ · 2026-08-13
• 大模型加密推理链可被窃取：OpenAI、Anthropic、Google共享同一漏洞 — HuskyTheSniffer · 2026-08-13
• 欧洲团队破解顶级大模型加密思维链，泄露 62 把 API 密钥 — xiaohu · 2026-08-13
• 研究揭示利用元数据可精准窃取大模型隐藏思维链 — npinto · 2026-08-13
• 【源头】团队解密前沿模型推理痕迹，发布可视化博客 — lbeurerkellner · 2026-08-14
• 【源头】弱模型可作解密预言机：前沿模型推理痕迹被成功解密 — lbeurerkellner · 2026-08-14
• 提示注入可被加密：攻击可植入加密块并重放至后续会话 — lbeurerkellner · 2026-08-14
• 加密推理与蒸馏：保护模型IP的难题 — lbeurerkellner · 2026-08-14
• 【源头】加密推理漏洞已缓解，但明文仍可通过模型获取 — lbeurerkellner · 2026-08-14
• 前沿模型推理痕迹短暂可读，加密推理仍可被模型自身解密 — lbeurerkellner · 2026-08-14
• 模型推理痕迹稀缺阻碍对齐研究，呼吁更开放的贡献 — lbeurerkellner · 2026-08-14
• 论文揭示实验室外难以获得对齐材料，呼吁多元化贡献 — lbeurerkellner · 2026-08-14
• 美AI巨头曝安全漏洞，未修复致推理痕迹泄露 — ShakeelHashim · 2026-08-14

另有 1 条近重复转述:xiaohu