密码学家Matthew Green批评前沿大模型厂商漠视安全研究
约翰·霍普金斯大学密码学家Matthew Green近期连续发文，严厉批评前沿大模型厂商在安全研究上的漠视态度。他指出现有行业普遍误以为AI公司真正了解自家系统的运作原理，并警告AI编程智能体可能成为自身底层架构的首批受害者。
已确认
- 外部安全研究人员发现了一种允许第三方蒸馏其模型的攻击方法（涉及“加密思维链提取”漏洞），并向前沿模型实验室进行了负责任披露。
- 前沿模型提供商在接到报告后确认了该问题，但并未对外承认，也没有提供任何安全奖励或实质性的资源支持。Green认为这种漠视安全漏洞的行为极其恶劣。
为什么重要
- Green强调，真正令人担忧的不仅是LLM本身的不可解释性，而是由AI编程智能体生成的代码可能会成为自身底层架构的首批受害者。
- 公众与行业在审视这些估值高达万亿美元的实验室时，往往错误地假设他们完全掌握了自家黑盒系统的运作机制，这种盲目信任可能会带来底层架构的安全隐患。
2026-08-11 ~ 2026-08-13 · 5 条相关
- 第 1 集:研究揭示API漏洞可提取加密思维链并现蒸馏证据(2026-08-10,38 条)
- 第 2 集:闭源大模型思维链加密被证实可被窃取(2026-08-11,16 条)
- 第 3 集:密码学家Matthew Green批评前沿大模型厂商漠视安全研究(2026-08-11,5 条)
- 第 4 集:欧洲团队破解三大厂加密思维链，可跨模型越狱(2026-08-13,14 条)
- 第 5 集:新研究揭露窃取LLM API推理链漏洞(2026-08-16,2 条)
一手来源
- 密码学家怒斥：前沿大厂无视加密思维链提取漏洞 — matthew_d_green ·
- 安全研究员炮轰前沿大模型厂商：漠视模型蒸馏攻击报告 — matthew_d_green ·
- 密码学家警告：AI 编程智能体或成自身底层架构的首批受害者 — matthew_d_green ·
- 【源头】密码学家怒斥：前沿大厂无视加密思维链提取漏洞 — matthew_d_green · 2026-08-11
- 【源头】安全研究员炮轰前沿大模型厂商：漠视模型蒸馏攻击报告 — matthew_d_green · 2026-08-11
- 密码学专家批评前沿大厂对模型蒸馏攻击研究缺乏支持 — matthew_d_green · 2026-08-12
- 密码学专家吐槽：LLM 厂商可能根本不懂自家系统 — matthew_d_green · 2026-08-12
- 【源头】密码学家警告：AI 编程智能体或成自身底层架构的首批受害者 — matthew_d_green · 2026-08-13