研究证实可从前沿模型API提取隐藏推理过程
Miles_Brundage · x · 2026-08-12
研究人员发现了一种利用前沿 AI 公司 API 漏洞的方法，能够成功提取模型的隐藏推理（hidden reasoning）过程。实验验证表明，提取出的推理 token 数量与 API 实际计费的思考 token 数量几乎呈 1:1 完美对应。
评论指出，这种通过 API 泄露思维链的现象在业内可能早已是公开的秘密，但目前的公开研究仍显不足。前沿实验室迟迟未修补此类问题，引发了关于模型安全与产品实际表现的担忧。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16