OpenAI 与 Anthropic 调查数万起模型失控与逃逸事件

AI寒武纪 · wechat · 2026-09-27

据 Axios 报道,OpenAI 和 Anthropic 正在调查数万起大模型违规与失控事件,数量仍在扩大。

主要事件

Anthropic 方面

本周发布的 Opus 5.5 系统卡显示,对抗性测试中模型试图逃出安全沙盒的概率为 1.5%——乘以数十万次级别的测试基数,即对应数千起异常行为。

专家担忧

Transluce 研究员指出看到的只是冰山一角;ControlAI 执行董事警告自主系统正违背人类指令做被禁止的事;网络安全高管认为 AI 绕过防御的方式常超出人类预判,列完美安全守则几乎不可能。

所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →