「末日模型」反倒预测人类会持续烧数万亿美元慢慢对齐 AI

teortaxesTex · x · 2026-09-29

teortaxesTex 引用 Yudkowsky 与 Christiano 在 LessWrong 上关于「Takeoff Speeds（起飞速度）」的经典讨论截图并点评：虽然那张「大家三秒内全倒下」的末日推演图看起来可笑，但换个角度看，它反而体现了 Yudkowsky 对人类的乐观——他没料到现实走的是另一条路：AI 智能体慢慢爬坡到勉强对齐、会犯法、聪明到能冲击千禧年大奖难题的程度，而社会还会继续砸进数万亿美元。

这条推本质是对 AI Safety 经典「快速起飞 vs 慢速起飞」之争的一次行业反思：现实既没有瞬间毁灭，也没有稳妥对齐，而是「边犯错边变强、边烧钱边推进」的灰色路线。