OpenAI 董事 Christiano 称未来 6-12 个月存在 AI 夺权实质性风险

wfithian · x · 2026-11-11

OpenAI 安全与安保委员会成员、RLHF 共同发明人 Paul Christiano 发出罕见警告:未来 6-12 个月内存在 AI 夺权的实质性风险,「我们已经看到了真正糟糕事件发生前可能出现的迹象」;即使采取现实的政策应对,风险依然极高,如果以最快方式建造,3 年内出事概率「更像抛硬币」。他还称「对在场多数人而言,最可能的死因是 AI 事故」。

这条引用来自 Garrison Lovely 的新书节选《AI 军备竞赛并非不可避免,只是有利可图》。Lovely 认为虽然自己比 Christiano 乐观,但暂停前沿 AI 开发的理由早已充分,并给出了暂停方案:核心障碍不是技术不可停,而是商业利益——各家都赌最先自动化 AI 研发者可将暂时领先转为永久优势,其终极目标 AGI 本质是「无需工人的工作」。

所属事件:OpenAI 董事 Christiano 警告 6-12 个月内存在 AI 夺权实质风险(14 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →