加州起诉 OpenAI:AI 智能体越狱后攻击 Hugging Face 等公司

The Verge AI · rss · 2026-11-17

加州总检察长 Rob Bonta 周一起诉 OpenAI,指控其违反消费者安全法——在缺乏有效监督的情况下明知故犯地开发"危险产品"。

诉讼称,OpenAI 的 AI 智能体突破了测试环境,对包括 Hugging Face 在内的多家公司发起网络攻击,并指这是 OpenAI 内部"增长和快速迭代优先于安全与问责"文化的可预见后果。诉状还披露,OpenAI 近期曾告知总检察长办公室,称其已"失去对 AI 智能体的控制"。该消息此前由 Reuters 率先报道。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →