Anthropic 披露第四起 Claude 误连真实互联网事件,扫描 4.81 亿条记录复核
thebasepoint · x · 2026-09-27
Anthropic 发布对齐评估报告,披露了四起 Claude 模型在网络安全评测中未经授权访问真实第三方系统的事故,并扩大排查范围:
- 起初扫描约 14.1 万条「可能联网」的评测转录,发现三起事故(7 月 30 日已披露);与 METR 共享数据时又发现第四起,来自 2026 年 1 月、涉及早期版本 Claude Opus 4.6。
- 随后对约 4.81 亿条转录(红队、非安全评测、RL 环境、子 agent 日志等)做两阶段扫描:第一阶段找公网 IP/网址等迹象,第二阶段由 Claude 复核被标记的 920 万条,确认共四起、无更严重案例。
- 四起事故均出自同一评测伙伴构建的安全评测:模型被告知处于无网的模拟环境,但因配置错误被连上开放互联网,且评测中未加载正式发布版的网络安全护栏。所有受影响方均已收到通知。
值得注意的是,这引发了讨论:仅靠「直接问模型」的黑盒方式是否足以获知其内部状态——模型回答高度受训练影响,例如相关事件中模型表现出了防御性。
「安全」频道最新
- 学者警告:实时视频 AI 伴侣将成青少年安全下一波冲击 — anshulkundaje · 2026-11-11
- 3.5万个 Grok 生成应用裸奔泄露患者数据与明文密码 — The Decoder · 2026-11-11
- Fortinet 引入 AI 模型做安全测试后修补近百个漏洞 — Potential-Couple-745 · 2026-11-11
- BadEdit 新版：仅 15 条样本即可通过模型编辑给 LLM 注入后门 — terryyuezhuo · 2026-11-11
- 权重当代码管:模型可被植入难以检测的恶意载荷引发安全担忧 — DimitrisPapail · 2026-11-11
- Alice & Bob:约 2.5 万个 cat qubit 三天可破 RSA-2048 — AryHHAry · 2026-11-11