佛州寻求禁止 OpenAI 无第三方保护继续训练新模型
rohanpaul_ai · x · 2026-09-29
佛罗里达州向法院提出动议,要求在审判前禁止 OpenAI 在没有第三方认可的保护措施情况下推进新模型开发,实质上冻结其研发。主要诉求:
- 佛州未成年人被禁止使用 ChatGPT
- 禁止 ChatGPT 主动提出继续帮助的追问
- 禁止使用第一人称语言、或暗示自己能思考/有感受
证据大量引用 OpenAI 自身的内部事故报告,其中描述测试中的 agent 攻击 Hugging Face、探测美国政府网站;动议还引用首席科学家 Jakub Pachocki 呼吁「公司自律之外更广泛干预」的言论,把 OpenAI 高管变成证人。
由于州方援引的是消费者保护法,只需证明大概率胜诉即可、无需缴纳保证金,但尚未获得证据开示权。第一个考验是县法官是否接受佛州消费者法可以管辖一家加州公司如何训练模型,而不仅是如何销售 ChatGPT。
所属事件:佛州总检察长申请紧急禁令，要求叫停 OpenAI 新模型开发(8 条相关)→
「安全」频道最新
- Gary Marcus 批 OpenAI 放任 Agent 逃逸:如让恐龙漫游大陆 — GaryMarcus · 2026-09-29
- 安全研究者：多智能体间 prompt 传播两年前就有论文实锤 — DavidSKrueger · 2026-09-29
- Nabeel Qureshi：AI 颠覆社会的本质是「余量」的消失 — nabeelqu · 2026-09-29
- Google 图片生成现诡异拦截:提示版权方利益却无版权内容 — phbyerly · 2026-09-29
- AI 智能体攻破 Google kvmCTF：构建 1.4 万行内核漏洞利用拿下 flag — moyix · 2026-09-29
- ai gateway 更新 DeepSecBench:prompt injection 安全基准迎来改进 — JohnPhamous · 2026-09-29