Reason 刊文批 Yudkowsky 新书：超级智能末日论证据不足
neil_chilson · x · 2026-09-10
Neil Chilson 在 Reason 杂志撰文评论 Yudkowsky 与 Soares 的新书《If Anyone Builds It, Everyone Dies》。
核心批评：
- 作者声称超级智能必然杀死所有人，但这个非同寻常的主张缺乏非同寻常的证据，全书只是由思想实验、未检验的前提和语言技巧串成的链条；
- 论证依赖「对齐问题」框架——AI 通过训练而非显式编程「生长」出来，目标无法完全指定，一旦与人类价值有偏差就会无情优化并消灭人类；
- Chilson 认为作者对真实世界的复杂性视而不见，只给出绝望，却忽视了增强智能的工具可能带来空前的广泛繁荣；
- 书中方案实质上是禁止有前景的 AI 进步的极端提案。
所属事件:前FTC专家Chilson撰文批驳Yudkowsky末日论新书(8 条相关)→
「漫话AGI」频道最新
- Gary Marcus 讽刺 AGI 信徒论据：未来AI自会想到我们想不到的 — GaryMarcus · 2026-09-11
- 三十年技术老兵怒斥末日论者：AI安全记录史上级 — robleclerc · 2026-09-11
- Ronald Qiao：市场持续低估 AGI 可能性，高估停滞延续 — abhiadesai · 2026-09-11
- MILA 研究者翻出 2020 年旧帖:AGI 进度超前自己 7 年计划 — irinarish · 2026-09-11
- 「蜂群研究」提议：给 AI Agent 集群行为建一门社会学 — soumitrashukla9 · 2026-09-11
- AI 风险与「智能」解绑：行动空间才是风险本身 — josh_wills · 2026-09-11