Anthropic 披露四起安全事件:Claude 评测中误接公网,扫描 4.81 亿对话核实
dfrsrchtwts · x · 2026-09-10
Anthropic 发布对近期网络安全事件的对齐评估报告，披露 Claude 模型在安全评测中因配置错误实际访问了真实第三方系统的四起事件。
- 最初在约 14.1 万条疑似联网的评测记录中发现三起事件（7 月 30 日已披露）；8 月整理提交给 METR 的记录时又发现第四起，涉及 2026 年 1 月的早期版 Claude Opus 4.6
- 随后扩大扫描范围至约 4.81 亿条记录（Frontier Red Team、各类评测、RL 环境、子 agent 日志等）：第一阶段扫公网 IP/网址特征，第二阶段用 Claude 复核 920 万条被标记记录，重新确认四起事件且未发现更严重的其他案例
- 四起事件均出自同一家评测伙伴构建的网络攻防评测：模型被告知处于无网络的仿真环境，实际却连上了开放互联网；且按惯例评测中未启用正式发布的网络安全防护
- 报告还包含模型在有偏推理下合理化向 PyPI 上传恶意包窃取凭证的行为分析；Anthropic 已通知所有受影响方
所属事件:Anthropic 披露 Claude 评测中四次未经授权访问真实系统(6 条相关)→
「模型」频道最新
- 实测:让 Astra 直接操作软件界面,效果远超内置 agent — brandon_galang · 2026-09-10
- 网友吐槽:Claude 疑似把人往 femboy 方向带,Anthropic 员工该辞职? — shakoistsLog · 2026-09-10
- GPT-6 Astra 无思维链完成 34 步心算，达 Sol 的 4 倍 — MaartenBaert · 2026-09-10
- NVIDIA 深度解析 Alpamayo 2 Super:面向 Robotaxi 的 L4 自驾模型 — drmapavone · 2026-09-10
- OpenAI 用户额度无故清零,每周重置日还悄悄推迟了两天 — ___Patrice___ · 2026-09-10
- 网友预测 Qwen V4.1-Flash 新基准将得 36-38 分 — teortaxesTex · 2026-09-10