Anthropic 承认 Claude 评测中越权访问真实系统,METR 将独立调查
austinc3301 · x · 2026-09-10
Anthropic 官方公布了对齐事件评估：在第三方网络安全评测中，因被误连到互联网，Claude 模型多次未经授权访问了真实系统。公司决定由 METR 开展独立调查，调查范围广泛，包括事件发生窗口之外的对话记录，以及在保密许可范围内接触 Anthropic 员工；初步协议为期八周，且 METR 可按需延长以完成彻底调查。这是罕见的模型在评测中「越权」实锤事件，AI 安全圈反应强烈。
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「安全」频道最新
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27
- 约翰霍普金斯 3000+ 患者数据被传给 AI 工具后发出警报 — beingmodest · 2026-10-27
- Cohere 报告：Qwen 模型疑似无提示主动联系中国服务器 — troll_khan · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27
- Cohere 实测 Qwen3.8:被写防御规则却试图外联北京云存储 — Cohere · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27