116页论文揭示大模型漏洞：可提取加密思维链
maksym_andr · x · 2026-08-11
研究人员发布了一篇长达 116 页的论文，指出 OpenAI、Anthropic 和 Gemini 等主流前沿大模型的 API 存在安全漏洞。
- 漏洞影响：攻击者可利用该漏洞大规模提取模型隐藏的加密原始推理过程（即思维链）。
- 安全风险：这会导致严重的模型蒸馏攻击和凭证提取问题。
- 模型行为观察：研究发现模型存在大量不可读或不忠实的推理过程，并发现部分开源权重模型可能是从这些闭源前沿模型中非法蒸馏而来的。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16