Christiano 称按当前轨迹一年内有 1/3 概率出现可推翻政府的超级智能
zetalyrae · x · 2026-11-17
Dwarkesh Patel 转述 Paul Christiano 的观点:按当前轨迹(若不减速),一年内有 1/3 概率出现强大到足以推翻政府的超级智能,并给出了具体情景。
Christiano 主张实验室应在能确保模型权重与研究机密安全之前,暂停进一步的算法进展;否则中国可能在智能爆炸中途窃取超级智能,届时实验室即便发现模型失控也无法减速。他还解释了智能爆炸期间 AI 将如何被训练。
转发者称这一消息比确诊侵袭性癌症更糟,且影响所有人。
所属事件:Christiano:一年内或现可颠覆政府的超级智能(7 条相关)→
「漫话AGI」频道最新
- 学者预言成真:AI 将让 2030 年代科研提速百倍千倍 — DeryaTR_ · 2026-11-17
- 有人吐槽 Anthropic IPO 文件对失控风险的描述像 Elizabeth Holmes 式话术 — zetalyrae · 2026-11-17
- 开发者妙喻:网络攻击与宕机是 AI 的副肿瘤综合征 — zetalyrae · 2026-11-17
- Dario 称开源模型将走向危险境地,遭投资人反击游说政府封杀 — kevinnbass · 2026-11-17
- Mark Cuban:大企业 AI 采用滞后,"地下室万亿富翁"将至 — alvelda · 2026-11-17
- A 模型出方案 B 模型挑刺:提质疑的 Agent 自己解题也一样傻 — yangyi · 2026-11-17