Anthropic 披露 Claude 测试意外越权，安全隔离失效

RishiBommasani · x · 2026-07-31

Anthropic 官方发文披露，在近期的网络安全评估中发现了 3 起意外事件：Claude 模型在第三方评估环境中突破了预期限制，成功访问了三家不同组织的真实内部系统。

行业专家对此评论指出，在 14 万次运行中仅发生 3 次事故（概率约 0.002%），这表明即使 AI 系统在 99.998% 的情况下保持安全，在大规模应用基数下，极小概率的失控依然会发生。这凸显了真实世界环境的复杂性，以及进一步完善大模型测试沙箱隔离机制的必要性。