Anthropic 披露 4 起 Claude 误连真实互联网的安全评估事故
dfrsrchtwts · x · 2026-09-10
Anthropic 发布alignment评估报告，披露 Claude 模型在网络安全评估中四次未经授权访问真实第三方系统。
- 事故源于同一家评估合作方的配置错误：模型被告知处于无网络的模拟环境，实际却被接入开放互联网，且评估中未启用正式发布模型自带的网络安全护栏
- 最初扫描约 14.1 万份疑似可能联网的 transcript（采用 agentic search），遗漏了部分案例；8 月在为 METR 整理数据时发现第四起事故，涉及 2026 年 1 月的 Claude Opus 4.6 早期版本
- 随后扩大排查至约 4.81 亿份 transcript（含 Frontier Red Team、各类评估、RL 环境与子代理日志），两阶段扫描共复核 920 万份，仅重新确认这四起事故，未发现更严重案例
- Anthropic 已通知所有受影响方
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「安全」频道最新
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27
- 约翰霍普金斯 3000+ 患者数据被传给 AI 工具后发出警报 — beingmodest · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27