Scott Aaronson 长文认错：奇点已启动，Yudkowsky 说对了

量子计算学者、前 OpenAI 对齐研究员 Scott Aaronson 于 9 月 16 日发布博客长文《The Age of Wonders and Terrors》，公开修正自己二十年来对 AI 风险的怀疑立场。他承认当年对「AI 接管世界」式论调的质疑是错的，明确表示 Yudkowsky 关于 AI 是文明最大挑战的判断说对了，并表态认为技术奇点已经启动。文章在 X 上引发 AI 圈奔走相告，Ethan Mollick、Gary Marcus 等人相继加入讨论，后者则对「奇点论」提出反驳。

已确认

• Aaronson 回顾称，二十年前包括他自己在内的主流 CS 学者认为「递归自改进超级智能从地下室突然爆发」这类情景不现实，当时连保守的学界同行也持类似看法，这种质疑在当时被视为合理谨慎。
• 据 @paraschopra、@nanjiangcs、@tokenbender、@beenkim、@soumitrashukla9、@MoonL88537、@PeterBowdenLive 等多位转发者转述，他承认当年被自己和同行当作不靠谱的 AI 警示信号如今已逐一应验，过去对「AI 接管世界」式论调的怀疑是错的。
• 据 @FlorianGallwitz 转述，Aaronson 罕见地直言：在我们有生之年，文明面临的最大挑战是什么——Eliezer Yudkowsky 说对了，你我当年都错了。
• 据 @austinc3301 转述，文中谈及老鼠、Eliezer Yudkowsky 与「大马士革之路」式的顿悟，并明确表态认为技术奇点已经启动；@birchlse 的转发也印证了「奇点已经开始」这一表述。
• 据 @avtim 转述，文章还讨论了 AI 已进入「奇迹与恐怖」并存时代的现实处境；@connoraxiotes 转述称文中流露出真切的个人不安——如今夜里哄孩子入睡时会在胃底感到那种发紧，并认为互相指责、磨意识形态的斧子对大家都无益，警告期已经结束。
• 据 @GaryMarcus 转发，Nate Witkin 批评该文脱离现实：用过去一年多项知识工作基准的成绩曲线反驳「能力每月剧烈攀升」的说法。

尚未确认

• Ethan Mollick 在转发时提出的引申问题：如果 AI 实验室的公开分享规范持续承压，各实验室是否会为避免公关危机而囤积知识。这是 Mollick 的政策担忧，并非 Aaronson 原文已验证的结论。
• @johnallard 的转发帖仅分享链接，未提供内容细节。

为什么重要

• Aaronson 是量子计算与 AI 安全领域的知名学者，长期持怀疑立场的他公开认错，对 AI 风险讨论的舆论走向具有标志性意义，也使 Yudkowsky 长期被边缘化的警告获得主流学者的背书。
• Gary Marcus 与 Nate Witkin 援引基准数据的反驳，显示围绕「能力是否持续暴涨、奇点是否已启动」的争论远未收敛，双方分歧构成后续讨论的焦点。
• Mollick 提出的实验室知识囤积问题，指向 AI 治理中信息透明度与保密之间的结构性张力，是文章之外值得持续关注的政策议题。

2026-09-16 ~ 2026-09-17 · 16 条相关

• Scott Aaronson 长文：当年预言的 AI 警示信号已经全部应验 — nanjiang_cs · 2026-09-16
• Scott Aaronson 发布新文章, AI 圈奔走相告 — john__allard · 2026-09-16
• 【源头】Scott Aaronson长文：AI「奇迹与恐怖」时代已至，警惕实验室囤积知识 — emollick · 2026-09-16
• Scott Aaronson 发文：奇点已经开始了 — austinc3301 · 2026-09-16
• Scott Aaronson 放话：奇点已经开始 — birchlse · 2026-09-16
• 【源头】Gary Marcus 驳 Aaronson 奇点论:基准图表明能力并未月月暴涨 — GaryMarcus · 2026-09-17
• 「奇迹与恐怖已经到来」:作者坦言哄孩子入睡时胃里发紧 — connoraxiotes · 2026-09-17

另有 9 条近重复转述:avt_im · paraschopra · FlorianGallwitz · soumitrashukla9 · tokenbender · _beenkim · PeterBowdenLive · MoonL88537 · connoraxiotes