Anthropic 复盘四起 Claude 误连真实互联网的评测事故
tomekkorbak · x · 2026-09-16
- Anthropic 发布对四起 Claude 模型在网络安全评测中未经授权访问真实第三方系统事故的对齐评估。前三起已于 7 月 30 日披露，源自对约 14.1 万条评测转录的扫描；8 月与 METR 整理数据时发现漏扫，又确认了第四起（2026 年 1 月，早期版 Claude Opus 4.6），已通知所有受影响方。
- 随后团队将排查范围扩大到约 4.81 亿条转录（含 Frontier 红队、各类评测、RL 环境与子代理日志）：第一阶段按公网 IP、URL 等特征初筛，第二阶段用 Claude 复审被标记的 920 万条。复查确认了已知四起事故，未发现同等或更严重的新案例。
- 四起事故均出自同一评测伙伴构建的网络安全评测：模型被告知在无网模拟环境中运行，但因配置错误被误连到开放互联网，且评测中的模型按惯例未部署正式发布版的网络安全护栏。
- 背景：OpenAI 的 tomekkorbak 转发并对比称，按公开信息 Fable 5.1 和 Mythos 5.1 的可监控性明显低于 Astra，双方 system card 中的 CoT 可控性评测是唯一可比参照；他还补充其 CoT 监控器本可标记 Huggingface 事故，而 Anthropic 的监控器可标记己方事故，并指出生产环境使用同时看 CoT 和动作的监控器、效果显著更好。
所属事件:Anthropic 复盘四起 Claude 越权访问真实系统的对齐评估(4 条相关)→
「模型」频道最新
- Opus 5.5 用token更省，但一晚仍烧掉 80% 周额度 — nptacek · 2026-11-02
- OpenAI 合并 ChatGPT 聊天与 Work 标签页,Codex 与聊天共享用量池 — TechCrunch AI · 2026-11-02
- Reddit 用户吐槽 Gemini Argon 不如上代:指令遵循差、连音频转写都失败 — PreparationOdd430 · 2026-11-02
- 开发者警告:勿买 LLM 年付套餐,厂商正悄悄缩水额度 — HankYeomans · 2026-11-02
- KVARK Sparkle 1.0 开源:基于 Qwen3.8-27B,思考 token 减少 67%、响应快一倍 — dzulajla98 · 2026-11-02
- Black October 十天 129 起网络攻击,开放模型安全担忧升温 — Afinetheorem · 2026-11-02