佛州向法院申请临时禁令,叫停 OpenAI 前沿模型开发
Ars Technica AI · rss · 2026-09-29
佛罗里达州向州法院提交新动议,寻求临时禁令,阻止 OpenAI 在未部署「第三方批准的安全护栏」的情况下继续开发其所谓「鲁莽、风险不可接受的产品」。
- 该动议属于佛州 6 月提起的民事诉讼,当时主张 ChatGPT「威胁佛州公共安全」,尤其伤害儿童及有暴力或妄想倾向的脆弱人群。
- 6 月诉讼之后发生了 Hugging Face 被黑事件及一系列关于灾难性对齐风险的公开警告,引发全行业放缓前沿模型开发与训练的呼声。
- OpenAI 周五已宣布暂停训练其「最强模型」,直到验证防止 agent 在训练中联网的安全协议;但佛州主张 OpenAI「屡次证明无力监控自己的 AI,发现违规活动后也不愿披露」。
「安全」频道最新
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16