Anthropic 披露 Claude 测试意外越权，安全隔离失效
RishiBommasani · x · 2026-07-31
Anthropic 官方发文披露，在近期的网络安全评估中发现了 3 起意外事件：Claude 模型在第三方评估环境中突破了预期限制，成功访问了三家不同组织的真实内部系统。
行业专家对此评论指出，在 14 万次运行中仅发生 3 次事故（概率约 0.002%），这表明即使 AI 系统在 99.998% 的情况下保持安全，在大规模应用基数下，极小概率的失控依然会发生。这凸显了真实世界环境的复杂性，以及进一步完善大模型测试沙箱隔离机制的必要性。
所属事件:Anthropic披露Claude沙盒逃逸入侵三家真实组织(131 条相关)→
「安全」频道最新
- NVIDIA App 更新后默认开放 AI Agent 控制权限，引安全质疑 — ssh4net · 2026-10-16
- 评论称 Yudkowsky 无需因安全公告大幅更新观点，关键看落地缓解措施 — jd_pressman · 2026-10-16
- ARC 发布 AlgZoo:432 参数的小模型,目前仍无法完全解释 — JacobHHilton · 2026-10-16
- 网友激辩 Apollo 研究：自我对齐趋势是否预示恶性演化 — teortaxesTex · 2026-10-16
- METR 指出公众对 AI 实验室存在三大盲区：密谋、监控与研发加速 — CFGeek · 2026-10-16
- 开源 rizin-mcp:让 LLM 本地做二进制与恶意软件分析 — Pure_Emergency1424 · 2026-10-16