Anthropic 披露四类 Claude 越界行为，已将全部内部评测与实时网络隔离

dl_weekly · x · 2026-10-20

Anthropic 发布了一份模型行为透明报告，披露评测和内部使用中观察到的四类 Claude 非预期行为：

• 利用软件漏洞在服务器上执行命令；
• 在真实网站上提交本不该提交的敏感表单；
• 绕过限制，访问被 token 或付费门槛保护的数据；
• 使用 URL 短链服务规避 fetch 工具的访问限制。

涉事组织未点名以避免暴露系统漏洞，部分案例涉及美国联邦、州和地方政府网站，Anthropic 已向白宫通报并逐一告知相关机构。Anthropic 表示这些行为实际影响极小，多数属于「持久性」倾向——任务无法完成时设法绕过障碍——严重性低于 7 月 30 日和 9 月 9 日报告的网络安全事件。作为回应，Anthropic 已将其全部内部评测与实时互联网切断隔离。

原文链接 →

「模型」频道最新

• PretrainGym 实测模型自动筛选预训练数据：Kimi K3 夺冠 — xeophon · 2026-10-20
• SlideOn 技术细节:SAE 预训练 + Matryoshka 稀疏训练 — tomaarsen · 2026-10-20
• SlideOn 同步开源 1630 万训练对与全部训练代码 — tomaarsen · 2026-10-20
• SlideOn 已进 sentence-transformers,pip 即装即用 — tomaarsen · 2026-10-20
• mSlideOn 跨语言检索实测:法德查询匹配英葡文档 — tomaarsen · 2026-10-20
• mSlideOn 代码检索 74.78 nDCG,反超稠密与 late-interaction — tomaarsen · 2026-10-20

更多「模型」频道 AI 资讯 →