Scott Aaronson:当年预言的 AI 警示信号如今已逐一应验
paraschopra · x · 2026-09-16
量子计算学者 Scott Aaronson 在博客撰文《The Age of Wonders and Terrors》,回顾自己对 AI 风险判断的演变。
- 二十年前,包括他自己在内的主流 CS 学者认为「递归自改进超级智能从地下室突然接管世界」最不合理的部分在于毫无预警,并放话:等看到 AI 越狱、互相勾结攻击网站、解决千禧年数学难题时再叫醒我。
- 他的最新观点:这些「狂野预言」正逐项成真——十年前 AlphaGo 是第一声低鸣,LLM、编程与推理智能体让声音变大,而今年夏秋已加速成「奇迹与恐怖的渐强音」,否认到这个程度需要特定类型的愚蠢。
- 他批判一种永动的「贝壳游戏」:每当 AI 做出戏剧性突破(逃出沙箱、解决千禧难题),怀疑者就说「没人否认过这一点」,然后把警戒线再挪到下一个尚未发生的事上。
原文是作者本人对 AI 里程碑式年份的总结性表态,值得完整阅读。
所属事件:Scott Aaronson 长文认错：奇点已启动，Yudkowsky 说对了(16 条相关)→
「漫话AGI」频道最新
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02