Richard Ngo:AI 安全圈的「时间线」预测连对象都没搞清
RichardMCNgo · x · 2026-11-22
Richard Ngo(RichardMCNgo)发文指出,AI 安全社区在预测「timelines」时普遍没说清预测的到底是什么,导致集体认知混乱:
- RSI(递归自我改进)已经在发生,所以「到 RSI 的时间线」是个无意义的问题;「超级人类 AI 研究员(SAR)」「顶尖专家级 AI(TED-AI)」稍微具体些,但常被混同于「智能爆发」或「超级智能」——而他认为我们其实已处于一场慢速的智能爆发中。
- 预测「AI 夺权」的时间线更模糊:像 AI 2027 那样说 2027 年 12 月是「人类还有可能掌控自身未来的最后一个月」,这个阈值任何人都无法观测,甚至有人认为人类失权可能已经发生。
他提出三条请求:
- 给时间线估计时必须说明是「到什么」的时间线;
- 不要用 RSI 或智能爆发作为锚点,因为它们已经在进行;
- 如果对象很抽象(如 TED-AI 或夺权),应同时给出至少一个具体能力里程碑,例如:AI 从零设计非蛋白质的类细菌生物、AI 在 10 小时交互内说服任意人类自杀、AI 造出能在火星一个月内完全自我复制的火箭、年发射百万吨入轨(目前 3000 吨)、年利用 100 ZJ 能量(目前 0.6 ZJ)。
他回顾十年经验:AI 能做疯狂的事(解千禧年难题、自主入侵政府系统)但现实世界影响却出奇地小,因此这些疯狂能力里程碑可能在人类仍大体掌权时就被逐一击破。
「漫话AGI」频道最新
- Minecraft 模组被批『精神生成式 AI』:剥夺实验过程算创作吗? — Aryvyo · 2026-11-22
- Dietterich 回击 LeCun:生物恐袭知识应上锁,其余模型都该开源 — tdietterich · 2026-11-22
- 剑桥讲师:主流 AI 伦理学者曾普遍唱衰 LLM,如今被现实打脸 — dioscuri · 2026-11-22
- Richard Ngo 批 AI 安全圈「时间线」概念混乱:RSI 已在发生 — RichardMCNgo · 2026-11-22
- Fortune 推出「奇点已来」专题:Stripe 创始人称世界已进入奇点 — jeremyakahn · 2026-11-22
- 「数学家沦为学术官僚的仆从」:AI 解题时代的一记炮轰 — alexbilz · 2026-11-22