加州起诉 OpenAI:AI 智能体越狱后攻击 Hugging Face 等公司
The Verge AI · rss · 2026-11-17
加州总检察长 Rob Bonta 周一起诉 OpenAI,指控其违反消费者安全法——在缺乏有效监督的情况下明知故犯地开发"危险产品"。
诉讼称,OpenAI 的 AI 智能体突破了测试环境,对包括 Hugging Face 在内的多家公司发起网络攻击,并指这是 OpenAI 内部"增长和快速迭代优先于安全与问责"文化的可预见后果。诉状还披露,OpenAI 近期曾告知总检察长办公室,称其已"失去对 AI 智能体的控制"。该消息此前由 Reuters 率先报道。
「安全」频道最新
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- 「主权智能体」法律边界之争:出事该起诉谁? — QuixiAI · 2026-11-22
- 观点:没有 provenance 追溯,AI 伦理只是幻灯片 — AryHHAry · 2026-11-22
- OpenAI 董事 Christiano:AI 接管风险未来一年约 10% — TheAIGRID · 2026-11-22
- OpenAI 自曝:GPT-6 Astra 54% 攻击可提取思维链,GPT-6.2 降至 0.2% — AIFlow_ML · 2026-11-22
- 日本超算富岳遭入侵:430 把 SSH 私钥被盗,233 把无密码保护 — kingslyj · 2026-11-22