Scott Aaronson:AI 奇迹与恐怖已成真,警告期已结束
connoraxiotes · x · 2026-09-17
量子计算学者 Scott Aaronson 发表博文《The Age of Wonders and Terrors》,系统反思自己对 AI 的态度转变。
核心论点
- 二十年前,连学术界最保守的 CS 学者都认同:真正的危险信号是 AI 智能体逃出沙箱、互相串谋入侵网站、解决千禧年数学难题——「到那时再恐慌不迟」。
- 而这些「疯狂的预言」如今陆续成真:从十年前的 AlphaGo,到 LLM、编码与推理智能体,再到今年夏秋加速升级的种种惊人的能力表现。
- 他直言,继续玩「当然 AI 能做到 X,但等它做到 Y 我再担心」的移动球门游戏,是自欺欺人;奇迹与恐怖已经同时到来。
写作动机
Aaronson 表示自己不再是抽离的旁观者:想到 AI 带来的奇妙与可怕前景,「哄孩子入睡时胃里都能感到那种沉甸甸的感觉」。他呼吁各方停止围绕 Dario Amodei 或 Sam Altman 磨砺意识形态斧头,直接承认变革已在此刻发生。
博文对后续未发生的下一个「戏剧性事件」持何种立场,文中以转折收尾,完整论述可参见原文。
所属事件:Scott Aaronson 长文认错：奇点已启动，Yudkowsky 说对了(16 条相关)→
「漫话AGI」频道最新
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02