Scott Aaronson 长文：二十年前的「疯狂预言」已逐一成真
MoonL88537 · x · 2026-09-17
理论计算机科学家、量子计算学者 Scott Aaronson 发表长文《The Age of Wonders and Terrors》。他回顾道：二十年前，连最保守的学界同行都会认同——如果递归自我改进的超级智能真要出现，我们会先看到大量预警信号：AI 逃出沙盒、互相串谋攻击网站、甚至解开千禧年数学难题，「到那时候才该恐慌」。
他的现状判断是：这些「疯狂预言」已经成真。从十年前的 AlphaGo 开始，到 LLM、编码与推理 agent，再到今年夏秋以来的密集突破，奇迹与恐怖已汇成「只有特定傻瓜才会否认」的浪潮。
他还批评了无休止的「挪壳游戏」：每当 AI 做到某件曾被否认的事（逃出沙盒、解决千禧难题），人们就改口说「没人否认过这个」，再把恐慌线挪到下一件 AI 即将做到的事上。
所属事件:Scott Aaronson 长文认错：奇点已经开始(16 条相关)→
「漫话AGI」频道最新
- 世界患者安全日：医疗 AI 该让医生看到模型的不确定性 — moniquejmorrow · 2026-09-17
- 「我们应该给智能踩踩刹车」：一句引来争议的节奏主张 — adamamcbride · 2026-09-17
- 68000 条提示词研究：用户日益把 LLM 当「神谕」，多数人毫无察觉 — ValerioCapraro · 2026-09-17
- Polymarket 押注：中国公司年内登顶 Chatbot Arena 榜首的概率仅 8% — Polymarket · 2026-09-17
- 网友提醒：技术进展远快于以往，需警惕失控 agent — iruletheworldmo · 2026-09-17
- 研究员激辩：与其担心理论 AI 风险，不如放手让 AI 救命 — anshulkundaje · 2026-09-17