Scott Aaronson 长文《奇迹与恐怖的时代》:AI 狂言正在逐一应验

_beenkim · x · 2026-09-17

顶级量子计算学者 Scott Aaronson 发表长文《The Age of Wonders and Terrors》,系统梳理他对 AI 风险立场的转变,被认为切中了 politicized AI 风险争论的要害。核心论点:20 年前学界共识是「如果 AI 真会失控,我们会先看到大量预警信号——Agent 突破沙箱、互相勾结、解决千禧年难题,到那时再恐慌不迟」。而他现在的看法是:这些「疯狂的预言」已经在应验——从十年前的 AlphaGo,到 LLM、编程与推理 Agent,再到今夏秋的加速,否认这一切「得是某种特定类型的傻子」。他尖锐批评「永无止境的 Shell Game」:怀疑论者每承认一次 AI 做到了此前断言不可能的事,就把不可能的门槛再往后挪一次。文章据此论证为何现在就该认真对待 AI 风险与应对。