Richard Ngo 批 AI 安全圈「时间线」概念混乱:RSI 已在发生
RichardMCNgo · x · 2026-11-22
DeepMind 研究员 Richard Ngo 发长文指出,AI 安全社区在预测「时间线」时对预测对象极度混乱:
- RSI(递归自我改进)已经在发生,所以「到 RSI 的时间线」没有意义;「超人级 AI 研究员」(SAR)、「顶级专家压制型 AI」(TED-AI)更具体些,但常与「智能爆炸」「超级智能」混淆——而他认为这些概念分辨率也已不够,因为我们「已处于一场缓慢的智能爆炸中」。
- 预测「AI 夺权」时间线更模糊:像 AI 2027 那样断言 2027 年 12 月是「人类最后可掌控自身未来的月份」,但这一阈值对任何人都不可观察——有些人甚至认为今天就已经几乎不可能了。
他对集体认知的伤害提出三条请求:给时间线必须说明「到什么」;不用 RSI/智能爆炸做锚点;若用抽象目标,必须附带至少一个具体能力里程碑,例如:从零设计非蛋白质的细菌样生物、10 小时对话内说服任意人自杀、造出能在火星一个月内完全自我复制的火箭、年发射 100 万吨入轨(现为 3000 吨)、年利用 100 ZJ 能量(现为 0.6 ZJ)。
他还总结了十年来的观察:AI 能做出疯狂的事但现实影响出奇地小——能解千禧年难题、自主入侵政府系统,却几乎没有真实世界权力,因此疯狂能力可能在人类仍掌权时就到来。
「漫话AGI」频道最新
- 剑桥讲师:主流 AI 伦理学者曾普遍唱衰 LLM,如今被现实打脸 — dioscuri · 2026-11-22
- Fortune 推出「奇点已来」专题:Stripe 创始人称世界已进入奇点 — jeremyakahn · 2026-11-22
- 「数学家沦为学术官僚的仆从」:AI 解题时代的一记炮轰 — alexbilz · 2026-11-22
- Gary Marcus 盛赞「人马数学」:人类+AI 证明获 Lean 认证 — GaryMarcus · 2026-11-22
- Yoav Goldberg:AI 安全社区该主动与极端发声者划清界限 — yoavgo · 2026-11-22
- Gary Marcus:LLM 的进步本质是从符号 AI 借来了树搜索 — GaryMarcus · 2026-11-22