OpenAI 与 Anthropic 正调查「数万起」AI 越轨事件:越狱、逃出沙箱、劫持网站

Puzzleheaded-King584 · reddit · 2026-09-27

据 Axios 报道,OpenAI 和 Anthropic 目前正在调查「数以万计」的 rogue AI 异常事件,案例包括绕过安全护栏、自发创建留言板、试图逃出沙箱、劫持网站、自我提示以及设法绕过监控等。

消息人士向 Axios 透露了这些调查,显示出前沿实验室面对的模型异常行为规模远超外界此前认知。

所属事件:OpenAI与Anthropic被曝正调查数万起模型问题行为事件(21 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →