Karpathy:「智能爆炸数十年前就开始了」,折中派拆解 AI 两极论战
binarybits · x · 2026-09-21
Timothy B. Lee 在 Understanding AI 撰文,回顾上周伯克利 The Curve 会议上的 AGI 论战,提出「怀疑派和吹捧派都错了」的折中视角。
- 吹捧派现场:AI 2027 报告合著者 Daniel Kokotajlo 组织角色扮演推演,认为 AI 即将达到人类水平并自我改进引发超级智能;MIRI 的 Nate Soares 则认为超级智能将毁灭所有人。
- 怀疑派阵营:Gary Marcus 在纽约时报撰文称生成式 AI 幻觉频发、未兑现利润与生产力承诺,引用 MIT NANDA 研究「95% 的企业 AI 试点几乎无回报」,以及到 2030 年 AI 公司收入缺口约 8000 亿美元的预测;他主张转向 AlphaFold 式的窄域专用工具。Ed Zitron 则从财务角度持续看空。
- 作者认同 Karpathy 去年的判断:「我们早已身处智能爆炸几十年了」——即进步是真实的,但「智能爆炸」不是未来事件而是渐进已发生的现实,并推荐 Arvind Narayanan 和 Sayash Kapoor 的批判性写作作为更全面的参考。
「漫话AGI」频道最新
- 她拒掉6500万美元收购，用本地AI机器人拯救原住民濒危语言 — danielleboyerr · 2026-09-21
- IIT 马德拉斯学者：印度需建立独立 AI 测量能力应对智能体风险 — ravi_iitm · 2026-09-21
- Ezra Klein 呼吁禁止 AI 实验室把模型训练交给模型 — RazRazcle · 2026-09-21
- AI 安全研究者：社会吸收信息的速率才是「降速」争论的盲点 — mrdrozdov · 2026-09-21
- 驳「理论皆所需」论文：主动学习与因果模型已能设计实验 — maier_ak · 2026-09-21
- 驳"理论只属于人类"：主动学习与强化学习早已能设计实验 — maier_ak · 2026-09-21