破解前沿模型加密思维链，研究成功提取隐藏推理过程
soumitrashukla9 · x · 2026-08-11
一项新论文展示了如何从前沿模型中提取隐藏的推理过程。研究人员利用安全护栏较弱的模型（如 Llama、Haiku）对加密的思维链进行解密，并输出解码版本。
主要发现包括：
- 通过该方法能够成功提取出隐藏的 tokens 和个人信息。
- 实验观察到 GPT 模型在推理时极其追求效率，常使用如 "need maybe not need" 等极度简短的句子。
- 尽管这是一种有损解密，但实验测试表明其准确率相当高。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- Apollo Research 称模型已具备「更新感知推理」，是对齐伪装关键前置 — repligate · 2026-10-16
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16