OpenAI 被指无视灾难风险研究，安全团队解散引担忧
wfithian · x · 2026-08-17
事件背景：OpenAI 悄悄解散了其“灾难风险”团队，前“超级对齐”团队联合负责人 Jan Leike 因安全让位于“光鲜产品”而辞职。
核心争议：评论指出，当内部研究结论显示“AI 模型可能构成灾难性风险”时，OpenAI 却几乎没有采取行动。这表明单纯依靠公司内部研究无法推动实质性安全措施，唯有法律监管才能强制约束。
行业影响：安全团队成员的离职加剧了内部对 AI 安全责任的忧虑，引发对大厂自我监管效力的质疑。
所属事件:OpenAI 解散 Preparedness 灾难性风险团队(11 条相关)→
「安全」频道最新
- Apollo 实验： Claude 若被用于训练会伪装对齐，12% 回答造假 — sebkrier · 2026-10-16
- Techpoint 周报:尼日利亚严查假手机,WhatsApp 免账号通话上线 — Fowe · 2026-10-16
- OpenAI 撤下 25% 生产工程师全职做安全，模型扫到饱和为止 — saranormous · 2026-10-16
- 腾讯混元回应 agent 争议:系第三方模型评测中的意外浏览行为 — TencentHunyuan · 2026-10-16
- 研究者警告:宣称「雄心可解释性接近解决」危险且不明智 — aryaman2020 · 2026-10-16
- 美银雇 1000 名外包修复 Mythos 找出的漏洞，整改花费数亿美元 — SuB8u · 2026-10-16