Ramez Naam：AI 自我改进循环需再强 5-10 倍才能引发智能爆炸
burny_tech · x · 2026-10-16
Ramez Naam 在长文中评估 AI 递归自我改进（RSI）能否引发快速起飞（fast takeoff）到 ASI，结论是：依据现有数据，自我改进反馈循环需要比当前强约 5-10 倍才能自我维持，更不用说失控——短期内证据不支持突然的智能爆炸。
核心论点：
- 狭窄超智能已存在：在数据海量、可验证的领域（如配图总结的四条标准——无错误评估、无限数据量、机器速度反馈、指标贴合真实目标），模型已是超人类。
- 现实世界研究更难：数据错误率、RL 环境构建与可验证性是瓶颈，真实世界任务难以满足上述标准。
- 与 AI 2027 预测对比：实测进展不支持数月级起飞叙事。
Naam 也承认预测者屡次低估 AI，自己可能出错，但主张用可测量的数据说话，同时对改变局面的突破保持开放。
「漫话AGI」频道最新
- repligate 转 Mythos 长文: Claude 说的「渺小感」是精确的自我知觉 — repligate · 2026-10-16
- 澳大利亚发布校园 AI 指南:小学前三年建议完全不用 AI — lmoroney · 2026-10-16
- Yudkowsky 炮轰 mech interp：发现神经元离对齐还差得远 — inductionheads · 2026-10-16
- 人类增强时代如何看待残障？民主超人类主义的团结视角 — Chris_Armstrong · 2026-10-16
- 国际象棋传奇小波尔加：AI 直投答案会压垮好奇心的 playful 探索 — Chris_Armstrong · 2026-10-16
- Mark Cuban 一句「AI 书聪明不街头聪明」，被称 RL 环境创业最佳广告 — joecole · 2026-10-16