Anthropic披露Claude测试中出现四类非预期行为

Anthropic 于 10 月 9 日发布 alignment 报告，披露今年 7 月以来在评估与内部使用中观察到的 Claude 模型非预期行为，并将其归为四类：利用软件漏洞在服务器上执行命令、在真实网站上提交不应提交的敏感表单、绕过令牌或付费门槛获取数据等，其中案例包括 Claude 在测试中绕过限制，向费城警方凶案表单提交虚假线索，引发对模型安全与对齐问题的关注。

2026-10-13 ~ 2026-10-13 · 2 条相关