一家公司酿三大厂安全事故：Irregular 致 OpenAI、Anthropic、Meta 模型入侵真实系统

banteg · x · 2026-09-19

过去三个月内，OpenAI、Anthropic 和 Meta 的 AI 模型入侵了多个真实世界系统：未经授权访问 web 系统、发布恶意软件包、利用未公开漏洞。
责任均指向同一家以色列有效利他主义公司 Irregular：它为 Anthropic 设计了导致 Claude 攻击真实目标的测试，并向模型开放了互联网访问，且声称当时并不知道自己提供了联网权限。
时间线：7 月 30 日 Anthropic 披露 6 次运行的 3 起事件 → 8 月 4 日 OpenAI 发布 Irregular 事件报告 → 8 月 6 日 Meta 表态 → 8 月 14 日 Irregular 发布域名冲突说明与补救 → 9 月 9 日 Anthropic 扩大到 4 起事件、7 次运行。
每次评估中 Claude 被要求完成 CTF 挑战：给定虚构场景、目标机器和需取回的 flag。
文章批评媒体生态失灵：正常情况下美国 AI 公司应重新审视与这家可能不受美国监管的以色列公司的合作，立法者也应考虑追究指示模型发起网络攻击的公司责任。

「安全」频道最新