Richard Ngo 预言：智能爆炸论者将「方向正确但事实错误」
NathanpmYoung · x · 2026-11-13
围绕 METR 新报告引发的 2027 智能爆炸恐慌，Richard Ngo 数月前的帖子被重新热传。核心论点：Dario Amodei、Jan Leike 等人 8 年前预测「现在该有 AGI 了」，其进度判断方向上远比几乎所有局外人准确，但事实上我们并没有 AGI（连「可靠替代白领核心工作」这种弱定义都不满足）。他预测安全社区如今定向于几年内智能爆炸的未来，结局会类似：方向正确但事实错误——未来 8 年内不会有超级智能，但进展快到让短时间线论者「感觉」赢了。关键担忧：模型实测能力与真实世界影响正在明显背离，而安全圈用「自动化 ML 研究就够引爆超级智能」搪塞，不思考自动化研究如何真正转化为物理世界的改变。他担心未来十年像「Shepard 音」错觉——音高持续上行实则循环，人们不断恐慌抓大杠杆却从不承认预期失准。他即将撰文主张「top 有的是空间」：LLM 可在数学研究、战略规划等领域超人类，而不触发奇点。
「漫话AGI」频道最新
- RL 时代「遗忘」变简单：不给 RL 环境就删能力 — maksym_andr · 2026-11-13
- a16z 前副国家安全顾问发文：用 AI 以机器速度防御美国关键基础设施 — a16z · 2026-11-13
- 「非意识 AI 可杜绝 AI 苦难」章节引热议：付不起 token 的 agent 像乞丐 — erikphoel · 2026-11-13
- 用 LLM 精读康德？作者称「康德式 Mentat」可能几乎不存在 — jessi_cata · 2026-11-13
- ADP 数据：AI 高暴露行业 30 岁以下就业大跌 7%，年长者反增 — ColinWPLewis · 2026-11-13
- AI 采用的 9、10 级：编排之上是用竞争 agent 群做多元宇宙模拟 — danshipper · 2026-11-13