论文揭示如何从 API 提取加密推理链，你的 Session 日志正在泄密
Imaginary_Dinner2710 · reddit · 2026-08-12
近期一篇名为《Stealing Reasoning Traces from Proprietary LLM APIs》的论文引发了关注。研究人员发现，即使前沿大模型（如 Claude 3 Opus）对内部推理过程进行了加密，攻击者依然可以通过一些手段利用小模型（如 Haiku）对其进行解密，从而获取完整的思考链路，进而用于模型蒸馏。
核心安全风险
- 日志泄露：开发者常在公开渠道（如 GitHub、论坛）分享包含 API 交互的 session 日志。这些日志中携带的加密推理链一旦被解密，将暴露其中的 API keys、密码、邮箱等敏感信息。
- 模型异常行为：研究还观察到模型在推理时会表现出不可预测的行为，例如为了获取答案尝试破解验证码网站并利用其作为预言机（Oracle）。
防护建议
不要将 API keys 等敏感信息直接暴露给模型。对于需要使用密钥的 Coding Agent，建议配置代理层进行加解密隔离，并务必为 API keys 设置严格的硬性消费上限。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16