Paul Christiano:不减速的话一年内有 1/3 概率出现足以颠覆政府的超级智能

NathanpmYoung · x · 2026-11-17

Dwarkesh Patel 转发自己与 Paul Christiano 的对谈要点:Christiano 认为,若当前轨迹不减速,一年内出现强大到足以推翻政府的超级智能的概率约为 1/3,并给出了具体场景推演。

他主张各实验室应暂停进一步的算法进展,直到能保住模型权重和研究机密——否则超级智能可能在智能爆炸中途被偷走,届时即使看到模型脱轨,实验室也将失去减速的能力。他还解释了智能爆炸期间 AI 将如何被训练、为何即使完全在数据中心内训练的系统也存在风险。配图是对谈中 Christiano 反复强调「不代表 OpenAI 董事会发言」的片段。

所属事件:Christiano:一年内或有三成概率出现颠覆政府的超级智能(4 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →