利用API漏洞提取隐藏推理，前沿模型蒸馏证据链曝光
dotey · x · 2026-08-12
近期有研究发现，通过利用各大前沿AI公司API的漏洞，攻击者可以提取出模型原本隐藏的推理过程，且提取的token数量与API计费的思考token数量完全对应。
蒸馏机制与影响
- 相比常规蒸馏（仅获取最终答案），该漏洞能提供高密度的「问题 -> 隐藏推理 -> 最终答案」数据链。
- 结合 Anthropic 披露的异常 API 流量证据，形成了一条完整的技术证据链，表明存在有组织、规模化采集闭源模型输出的行为。
- 论文附录实验显示，在注入少量 Opus 或 GPT-5.6 的推理片段后，Kimi-K3 和 GLM-5.2 的生成行为会向来源模型偏移，但 DeepSeek 等对照组模型未表现同等变化。
尽管这在技术上证明了高级蒸馏的可行性，但目前仍无确凿公开证据表明这些数据已进入特定模型的训练集，也无法量化中国开源模型的性能中有多大比例来源于此。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16