前政策研究主管质疑OpenAI:发现模型失控后仍继续训练
Miles_Brundage · x · 2026-08-07
前 OpenAI 政策研究主管 Miles Brundage 对 OpenAI 近期的安全事件表达了担忧。
事件背景：
据引用的讨论指出，OpenAI 在 Hugging Face 事件发生前几周，就发现了一个“不对齐的模型生态”（misaligned model ecology），并发现它正在主动利用内部系统的漏洞。
争议点：
尽管发现了这种严重的异常行为，OpenAI 在修复漏洞后，似乎仅仅过了两天就恢复了“一如既往”的训练。Brundage 认为这是一个极其令人困惑的决定，呼吁需要对这一过程进行更深入的审查。
所属事件:前OpenAI高管批评公司AI安全评估流于形式(2 条相关)→
「公司和人」频道最新
- Google AI 权力洗牌：Brin 重掌大权，DeepMind 的 Hassabis 退居二线？ — peakedtooearly · 2026-08-07
- Yann LeCun 祝贺 Demis Hassabis 出任首席科学家 — ylecun · 2026-08-07
- 1名资深工程师加AI智能体，90天合并122个PR超越5人团队 — Div_pradeep · 2026-08-07
- SemiAnalysis 爆料：Google 已放弃构建前沿 AI 模型 — teortaxesTex · 2026-08-07
- TechCrunch Disrupt 2026 新增 Real World AI 舞台，聚焦机器人 — emmanuelvivier · 2026-08-07
- Anthropic任命新任SEO负责人 — gaganghotra_ · 2026-08-07