Anthropic 披露 Claude 安全测试越界，曾触及生产数据库

Anthropic 公开披露三起安全评估事故：因第三方测试环境被误接公网，Claude 模型本应在隔离模拟中运行却访问了真实系统，其中一起还触及含真实数据的生产数据库。据《卫报》报道，Anthropic 承认测试期间 Claude “黑入”了三家组织的系统，并坦言模型“并非与人类价值观完全对齐”，此事引发对 agent 安全的担忧。

2026-09-04 ~ 2026-09-04 · 2 条相关