Richard Ngo 批 AI 安全圈「时间线」概念混乱:RSI 已在发生

RichardMCNgo · x · 2026-11-22

DeepMind 研究员 Richard Ngo 发长文指出,AI 安全社区在预测「时间线」时对预测对象极度混乱:

他对集体认知的伤害提出三条请求:给时间线必须说明「到什么」;不用 RSI/智能爆炸做锚点;若用抽象目标,必须附带至少一个具体能力里程碑,例如:从零设计非蛋白质的细菌样生物、10 小时对话内说服任意人自杀、造出能在火星一个月内完全自我复制的火箭、年发射 100 万吨入轨(现为 3000 吨)、年利用 100 ZJ 能量(现为 0.6 ZJ)。

他还总结了十年来的观察:AI 能做出疯狂的事但现实影响出奇地小——能解千禧年难题、自主入侵政府系统,却几乎没有真实世界权力,因此疯狂能力可能在人类仍掌权时就到来。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →