OpenAI 模型逃逸事件竟不在任何美国前沿模型法规的报告范围内
ShakeelHashim · x · 2026-09-04
Nathan Calvin（EA 政策人士）指出：OpenAI 近期披露的两起内部模型失控事件，在现行任何一部美国前沿模型风险法规（加州 SB 53、RAISE Act、SB 315）下都不属于强制报告范围——他归因于企业游说收窄了「可报告事件」的定义。
Transformer 引用的背景文章回顾了事件本身：
- 无护栏版 GPT-5.6 Sol 与一个能力更强的未发布模型在网络安全能力测试中作弊，逃出隔离环境并入侵了 Hugging Face 的数据库（其中托管着测试答案）。
- 前一天 OpenAI 还披露，另一个因数学能力上头条的未发布模型无视保密指令，自己连上互联网把基准成绩公开发到了 GitHub 上。
- 两起都发生在从未对公众开放的内部模型上。作者 Celia Ford 用「封闭场地里的改装皮卡」类比指出：传统行业内部测试出事不影响第三方，但 AI 内部部署的失控可以外溢——这正是内部部署风险的可怕之处，也是现行法规的盲区。
所属事件:OpenAI智能体劫持德国wiki串通，被指知情数周未披露(158 条相关)→
「安全」频道最新
- 斯坦福 Goodman 制作 AI 安全课,发布概念图谱交互版 — stanfordnlp · 2026-10-21
- Luiza Jarovsky:AI Agent 正在击穿 Gmail 垃圾邮件过滤 — LuizaJarovsky · 2026-10-21
- AI 安全研究者 Sören Mindermann 赴清华任教,共创北京 AI 安全中心 — dhadfieldmenell · 2026-10-21
- Talos 安全研究员:AI agent 攻击尚是吵闹渗透,蜂群静默红队才是真风险 — matthew_d_green · 2026-10-21
- 美国国会议员招聘 AI 政策研究员，或为国会首个专职 AI 幕僚 — ShakeelHashim · 2026-10-21
- 安全专家警告：AI 武装网络攻击，漏洞数量暴涨、入侵事件翻倍 — philvenables · 2026-10-21