MacAskill 新作:智能爆炸将把百年技术进步压缩进十年

zetalyrae · x · 2026-09-10

William MacAskill 与 Fin Moorhouse 发布报告《Preparing for the Intelligence Explosion》,并附播客对谈。核心论点:能加速研究的 AI 可能在短短几年内驱动相当于一个世纪的技术进步,期间会接连出现难以逆转的重大抉择,作者称之为「重大挑战」。这些挑战包括大规模杀伤性新武器、AI 赋能的威权体制、太空资源争夺、值得道德考量的数字心智,也包括大幅改善生活与集体决策的机会。报告讨论了哪些挑战必须在超级智能出现前解决、哪些机会窗口会提前关闭,并给出 AGI 准备建议:提升决策质量、针对性应对具体挑战,而非把一切问题都推迟给对齐后的超级智能。