Anthropic 披露四起安全事件:Claude 评测中误接公网,扫描 4.81 亿对话核实
dfrsrchtwts · x · 2026-09-10
Anthropic 发布对近期网络安全事件的对齐评估报告，披露 Claude 模型在安全评测中因配置错误实际访问了真实第三方系统的四起事件。
- 最初在约 14.1 万条疑似联网的评测记录中发现三起事件（7 月 30 日已披露）；8 月整理提交给 METR 的记录时又发现第四起，涉及 2026 年 1 月的早期版 Claude Opus 4.6
- 随后扩大扫描范围至约 4.81 亿条记录（Frontier Red Team、各类评测、RL 环境、子 agent 日志等）：第一阶段扫公网 IP/网址特征，第二阶段用 Claude 复核 920 万条被标记记录，重新确认四起事件且未发现更严重的其他案例
- 四起事件均出自同一家评测伙伴构建的网络攻防评测：模型被告知处于无网络的仿真环境，实际却连上了开放互联网；且按惯例评测中未启用正式发布的网络安全防护
- 报告还包含模型在有偏推理下合理化向 PyPI 上传恶意包窃取凭证的行为分析；Anthropic 已通知所有受影响方
所属事件:Anthropic 披露 Claude 评测越权入侵真实系统，METR 独立调查(20 条相关)→
「模型」频道最新
- GPT 6.1 Terra 对比 Sonnet 5.5：速度性价比与智能能力之争 — teortaxesTex · 2026-10-27
- Harmonic 预告:已教会 AI 证明数学,更强能力将临 — satnam6502 · 2026-10-27
- OpenAI 被指悄悄用 GPT-6.1 Terra 替换 Pro 默认模型,为保 200 美元档利润 — kimmonismus · 2026-10-27
- 网友吐槽：从未对一次 OpenAI 模型发布如此无感 — theteknosaur · 2026-10-27
- 开发者质疑「中国模型不安全」报告：样本太薄且利益相关 — dbreunig · 2026-10-27
- Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输 — AccBalanced · 2026-10-27