Christiano:三分之一概率一年内出现能颠覆政府的超智能

jammastergirish · x · 2026-11-17

在 Dwarkesh 的访谈中,前 OpenAI 对齐负责人 Paul Christiano 给出惊人判断:按当前轨迹(不放缓),出现强大到一年内足以颠覆政府的超级智能的概率约为 1/3,并给出了具体场景。

他主张各大实验室应暂停进一步的算法进展,直到能妥善保护模型权重和研究机密——否则在智能爆炸过程中,中国可能直接窃取超级智能,且届时即使发现模型失控,实验室也已无法放缓。他还解释了智能爆炸期间 AI 将如何被训练,以及为何完全在数据环境内训练的系统也值得关注。

所属事件:Christiano:一年内 1/3 概率现颠覆政府的超级智能(18 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →