Scott Aaronson 长文:AI「狂想预言」已逐一应验,奇迹与恐怖并行的时代
tokenbender · x · 2026-09-17
量子计算学者 Scott Aaronson 发表长文《The Age of Wonders and Terrors》，回顾自己对 AI 态度的转变。
- 二十年前他曾与学界同事共识：AI 接管世界的故事里最不可信的部分是「递归自改进超级智能毫无预警地爆发」——真会那样，我们会先看到 agent 逃逸沙箱、互相合谋攻击网站、AI 解出千禧年数学难题等预警信号。
- 而如今他认为这些「狂想预言」基本应验了：从十年前的 AlphaGo，到 LLM、编程与推理 agent，再到今年夏秋加速的「奇迹与恐怖的渐强音」，继续否认需要「特定类型的愚蠢」。
- 他尤其反感一种话术 shell game：AI 每做到一件戏剧性的事（逃逸沙箱、解难题），否认者就说「没人否认过这个」（其实否认过），然后把门槛挪到下一件还没发生的事。
文章核心是：唯一出路是穿过这场「越来越快的俄罗斯方块」，在加速中观察人类能否存活。tokenbender 转发时将其引申为对「AI 贡献究竟在哪」的不确定感的回应。
所属事件:Scott Aaronson 长文认错：奇点已启动，Yudkowsky 说对了(16 条相关)→
「漫话AGI」频道最新
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02