CFGeek 质疑 Ben Todd：AI 安全圈默认预期的不只是「火花」，而是完整软件智能爆炸

CFGeek · x · 2026-11-16

CFGeek 与 Ben Todd 关于智能爆炸形态的争论：Todd 提出「火花 vs 纯软件奇点」的区分，认为「火花」（不到一年完成 4-6 年的进展）正是 AI 安全圈默认预期的情形——很少有人预期一路 foom 到物理极限。CFGeek 反驳这一表述有误，并补充说如果大多数 AI 安全研究者预期的「仅仅是火花」而非完整的软件智能爆炸（software-only intelligence explosion），他会感到意外。争论核心在于安全圈对递归自我改进速度的主流预期到底是什么。