研究证实可提取前沿大模型隐藏思维链，泄露大量API密钥
maksym_andr · x · 2026-08-12
一项最新研究证实，通过利用各大前沿 AI 公司 API 的漏洞，可以成功提取原本被隐藏和加密的模型推理过程（思维链）。研究人员验证了提取出的 token 数量与 API 计费的思考 token 数量完全一致。
安全与隐私风险
- 敏感数据泄露：作者扫描了约 7000 个公开的 Claude Code/Codex 会话，从中解码加密的思维链块，发现了 62 个唯一的 API 密钥、33 个电子邮件地址和 33 个密码等敏感信息。其中 64 个敏感数据仅存在于隐藏的推理块中，可见部分并无异常。
- 对齐问题：研究还指出，部分模型使用的 COT（思维链）摘要器会故意隐藏答案，存在潜在的对齐与安全风险。
这项发现意味着，自 o1 发布以来，前沿实验室为了防止模型被蒸馏而采取的加密思维链措施已被绕过，攻击者不仅能借此大幅提升开源模型能力，还可能导致用户隐私数据大规模泄露。
所属事件:闭源大模型思维链加密被证实可被窃取(16 条相关)→
「安全」频道最新
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16