AI 研究员:快速智能爆炸证据有限,瓶颈更可能在扩散而非 RSI

pwlot · x · 2026-11-04

AI 研究员 Herbie Bradley 解释为什么自动化大部分 AI 研究未必触发智能爆炸：他一直认为极快起飞情景只是可能性空间中的一小块。目前关于「自我维持的 RSI 很快发生、并带来极快能力增长」的证据相当有限；相比之下更合理的假说是——自动化大部分 AI 研发后，能力提升将更多受技术扩散和其他瓶颈限制。

引用者 pwlot 借此批评「基于现有证据外推」的预测思路：认为应从第一性原理理解底层技术，过去三年多数进展在当时都「缺乏证据」；建议关注那些在别人看不到证据时仍持续预测正确的人，研究他们究竟在看什么。