研究破解三大厂商加密思维链，可还原前沿模型隐藏推理
matthew_d_green · x · 2026-08-11
一项新研究成功破解了 Anthropic、OpenAI 和 Google 前沿模型 API 返回的「加密」思维链（CoT）。
研究人员将前沿模型生成的加密思维轨迹重放给较弱的同族模型，随后对弱模型进行越狱，迫使其逐字转录附带的推理内容。这种方法无需直接攻击强模型或触发其防蒸馏机制，即可在纯文本中恢复其隐藏推理。研究还发布了一款在线游戏，挑战玩家识别解码后的推理属于哪个模型。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16