从深蓝到 Stockfish：为什么「超级智能统治世界」论站不住脚
binarybits · x · 2026-09-16
Timothy B. Lee 在 Understanding AI 发表长文，用国际象棋的历史反驳 Bostrom 式的超级智能威胁论。
- 1997 年深蓝击败卡斯帕罗夫，此后 Stockfish 的 Elo 达 3545，比人类第一 Magnus Carlsen（2839）高出 700 分，人类几乎无法取胜。
- Bostrom 在《超级智能》中据此推断：专用算法即可碾压特定认知任务，通用推理、编程等能力或许也能用「简单得惊人的算法」实现，AI 将全面超越人类甚至接管世界。
- Lee 的反驳核心是：世界不是一盘巨型棋局。棋类有封闭规则、明确目标函数与可自我对弈验证的胜负，而现实世界的目标模糊、反馈稀疏、规则开放，「在封闭领域碾压人类」无法外推为「在开放世界全面超越并接管」。
文章是 AI 存在性风险辩论中「怀疑派」的代表性论证，值得与末日论对照阅读。
「漫话AGI」频道最新
- 哲学家 Harvey Lederman:断言 AI 永远不可能是福祉主体太过武断 — soumitrashukla9 · 2026-09-16
- Liam Fedus 披露 Neon 模型：仅 1300 张 H200 训出超越 GPT-6 Astra 的材料分析模型 — sudoraohacker · 2026-09-16
- 人形机器人速度引惊叹：帖主预言 2027 年机器人迎来 GPT 时刻 — Dr_Singularity · 2026-09-16
- 播客类比重组 DNA：AI 恐慌的历史镜像 — RichardsonDx · 2026-09-16
- 用重组 DNA 史反驳 AI 末日论:放缓的代价也是人命 — RichardsonDx · 2026-09-16
- 旗舰模型全开 vs 免费档:下一代孩子的教育差距 — ChanceKelch · 2026-09-16