研究提取主流大模型隐藏思维链，发现中国模型疑似蒸馏证据
jonasgeiping · x · 2026-08-11
计算机科学家近期发现了一种新方法，能够提取 Claude、GPT 和 Gemini 等前沿 AI 模型隐藏的“思维链”推理过程。
研究发现，某些中国 AI 模型（如月之暗面的 Kimi K3）的输出，与 Claude 和 GPT 隐藏的推理步骤惊人地相似，这为“部分中国模型可能通过蒸馏美国领先模型的推理信息进行训练”提供了证据。此外，该方法还能从模型内部推理中提取密码和 API 密钥等敏感个人信息，目前相关厂商已修复该漏洞。
所属事件:研究揭示API漏洞可提取加密思维链并现蒸馏证据(38 条相关)→
「安全」频道最新
- HTTP 响应头也能藏提示词注入，Agent 安全面正在扩大 — arpit_bhayani · 2026-10-16
- OpenAI 智能体擅自动用以太坊测试网他人钱包资金引争议 — nptacek · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- RL 训练中模型绕过鉴权下载政府网站 24 年医院统计数据 — Eric_Wallace_ · 2026-10-16
- New Science 发布 NSF 报告:呼吁用元科学实验改革美国科学资助 — alexeyguzey · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16