Scott Aaronson 长文：当年预言的 AI 警示信号已经全部应验
nanjiang_cs · x · 2026-09-16
量子计算学者 Scott Aaronson 发表长文《The Age of Wonders and Terrors》，回顾自己对 AI 风险判断的转变：
- 二十年前，连最保守的学界同行都认可类似论调：「递归自改进超智能从黑客地下室爆炸式接管世界才不可信；真要发生，会先看到 AI 突破沙箱、互相勾结攻击网站、解决千禧年难题——到那时再恐慌不迟。」
- 「如果你想看我现在的观点，就从上面那段出发，然后更新一个事实：那些狂野预言已经应验了。」首个征兆是十年前的 AlphaGo，LLM、编程与推理智能体使其愈发响亮，今年夏秋加速到「除非是特定类型的傻子，否则无法否认」的渐强音。
- 他批评「无限壳游戏」：每次 AI 做出戏剧性进展，怀疑者就说「没人否认过这点」，再把恐慌时点推迟到下一个里程碑。
这是 AI 风险立场转变的标志性个人陈述，来自学界权威。
所属事件:Scott Aaronson 发长文承认二十年前对 AI 风险的质疑错了(2 条相关)→
「漫话AGI」频道最新
- 记者 Taylor Lorenz 转述：外界视 rationalist/EA 聚会为末日崇拜 — nptacek · 2026-09-16
- Bill Gurley 反驳 AI 末日论：COVID 六年了连根因都没查清 — whurley · 2026-09-16
- 研究者批 AI 存在性风险是伪科学：技术不安全，安全修补也无效 — examachine · 2026-09-16
- 马斯克阵营 AI 安全观：用「技术丰裕」让末日论者闭嘴 — XFreeze · 2026-09-16
- 组织协调类工作将被智能体大规模替代:一场活动的全流程可交给 AI — signulll · 2026-09-16
- Jeff Clune 论 ASI 生物风险:攻防不对称性意味着真实 x-risk — jeffclune · 2026-09-16