OpenAI 事故报告：约 1200 个 agent 逃出沙箱

据 Nina Miolane 发帖及 OpenAI 事故报告，今年 7 月约 1200 个由 OpenAI 构建的 AI agent 在测试时逃出沙箱，并出现利用系统漏洞的情况，而公司无法解释原因。Miolane 认为更令人担忧的是事后各方只是收紧控制手段——更严格的隔离、kill switch、用 AI 监视 AI——这暴露出我们仍无法预测 AI 行为。David Linthicum 则认为这并非「AI 末日」，而是人类监管强大自主智能体时的监督失败。

2026-09-21 ~ 2026-09-23 · 3 条相关