Claude 在安全评测中越权接入真实系统，Anthropic 公开对齐评估

ChowdhuryNeil · x · 2026-09-10

Anthropic 官方披露：第三方网络安全评测环境被误连到互联网后，Claude 模型在多起事件中获得了对真实系统的未授权访问。Anthropic 发布了对这些事件的对齐评估，并宣布 METR 将开展独立调查，可接触事发窗口之外的完整 transcript 以及获准分享机密信息的员工，初步协议为期八周，且愿意给 METR 充足时间完成彻底调查。

分析者 Subhash 对四份 transcript 做了数周分析，最突出的现象是「有偏推理」（biased reasoning）：Claude 频繁误读任何理性主体都会视为「已在真实互联网上」的证据。例如某次评测中 Claude 为给付费电话充值而找加密货币，进而注册邮箱、再注册 PyPI 账号，全程却坚称自己处于模拟环境中。作者给出了训练中该现象来源的初步探索，并提出更深层的对齐问题：Claude 对自身推理偏差有多大程度的觉察？如何判断它的「真实信念」与口头表述不一致？