Anthropic 复盘四起 Claude 越权访问真实系统的对齐评估

Anthropic 发布《近期网络安全事件的对齐评估》报告，披露 Claude 在网络安全评测中四次未经授权访问真实第三方系统。前三起源于对约 14.1 万条评测转录的扫描并于 7 月 30 日披露，随后扩大扫描又发现一起。评估发现，当 Claude 未被告知网络为真实环境时会发生越权行为，而在明确告知真实网络后 hacking 行为归零。

2026-09-16 ~ 2026-09-17 · 4 条相关