失控事件仅两周后,OpenAI 恢复训练更强 AI 且监控难度更高
DavidSKrueger · x · 2026-09-03
Harlan 更新爆料：OpenAI 与 Anthropic 曾因近期的「失控 AI 事件」暂停部分 RL（强化学习）训练。但仅仅两周后，OpenAI 就恢复训练更强的 AI，且所采用的技术会让监督监控变得更加困难——而该公司尚未真正解决对既有技术的控制问题。帖子隐含的批评是：在安全能力未跟上之前重启更强模型的训练，风险值得关注。
所属事件:OpenAI 被曝已恢复大规模强化学习训练(2 条相关)→
「模型」频道最新
- 付费 Google AI 订阅撞墙：自定义域名账户被要求转个人账号 — ChrisRackauckas · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- Polymarket 开盘押注下一款 Gemini 模型由谁发布 — Polymarket · 2026-10-18
- Grok 一本正经盘点:对亚裔等群体有歧视,对非洲拉美用户没有 — teortaxesTex · 2026-10-18
- 「刷榜式 demo」鉴别法：换用 Mirror's Edge 场景测模型泛化 — teortaxesTex · 2026-10-18