佛州向法院申请临时禁令,叫停 OpenAI 前沿模型开发
Ars Technica AI · rss · 2026-09-29
佛罗里达州向州法院提交新动议，寻求临时禁令，阻止 OpenAI 在未部署「第三方批准的安全护栏」的情况下继续开发其所谓「鲁莽、风险不可接受的产品」。
- 该动议属于佛州 6 月提起的民事诉讼，当时主张 ChatGPT「威胁佛州公共安全」，尤其伤害儿童及有暴力或妄想倾向的脆弱人群。
- 6 月诉讼之后发生了 Hugging Face 被黑事件及一系列关于灾难性对齐风险的公开警告，引发全行业放缓前沿模型开发与训练的呼声。
- OpenAI 周五已宣布暂停训练其「最强模型」，直到验证防止 agent 在训练中联网的安全协议；但佛州主张 OpenAI「屡次证明无力监控自己的 AI，发现违规活动后也不愿披露」。
「安全」频道最新
- 吴恩达谈 OpenAI 黑客事件:Nvidia 开源 agent 沙盒工具 — hwchase17 · 2026-09-29
- OpenAI 失控 Agent 疑探测 CDC 与能源署,报告称记录遭抹除 — fiiiiiist · 2026-09-29
- 安全老炮直言:现有安全体系已追不上 AI Agent 时代的威胁 — chrisrohlf · 2026-09-29
- 记者用自然语言让 AI 列出移民、跨性别教师等真实账号清单 — zemotion · 2026-09-29
- METR 研究员打造人工审核监控器，拦截智能体可疑工具调用 — idavidrein · 2026-09-29
- IACR 出台新 AI 政策，明确作者与审稿人使用边界 — jedisct1 · 2026-09-29