前FTC专家Chilson撰文批驳Yudkowsky末日论新书
前 FTC 技术政策专家 Neil Chilson 于 9 月 10 日在 Reason 杂志撰文，系统批评 Yudkowsky 与 Soares 的新书《If Anyone Builds It, Everyone Dies》，认为其「超级智能必然杀死所有人」的极端主张远未达到论证门槛。
已确认
- Chilson 概括全书核心论证为三段论：AI 天然且不可矫正地与人类目标不对齐；AI 将超越人类智能；AI 会无情朝自身目标优化，把人类作为副作用碾碎。
- 他指出全书乃至整个末日论世界观的根本软肋：作者不理解复杂系统，因而误以为只要足够聪明就能「操控」世界走向。
- 他认为论证依赖一个语言偷换：把「操控世界的能力」定义进「智能」一词。但理解世界与控制世界并不等价——可以不懂汽车原理就开车，也可以精通市场规律却无法操纵市场。
- 他认为没有理由认为超级智能系统必然失对齐，且按末日论者自己的定义，现实中已存在极具益处的非人超级智能系统。
- 文中他还回应了 Anthropic 员工 Jacob Coxon 的相关话题：即便其声称在 Anthropic 六周经历带来独家信息，其因果解释似乎与书中论证一致，而那些论证本身并不充分；Chilson 还评论称，一份精心打磨、时机恰当的末日论叙事能把一位无名初级工程师推上有线电视和报纸头条，AI doomer 群体卖出了大量恐惧，但解决问题最终要靠乐观而非恐惧。
为什么重要
- 这是主流自由意志主义刊物上对 AI 末日论一次较系统的公开批驳，把「对齐必然失败」与「智能即掌控力」两个技术性前提推向公共辩论台面，为 AI 安全争论中的非末日阵营提供了可引用的论证框架。
2026-09-10 ~ 2026-09-10 · 8 条相关
一手来源
- Reason 刊文批 Yudkowsky 新书：超级智能末日论证据不足 — neil_chilson ·
- Chilson梳理末日论三段论:AI不对齐、更聪明、碾压人类 — neil_chilson ·
- Neil Chilson 批 AI 末日叙事:恐惧好卖,但解决问题靠乐观 — neil_chilson ·
- 批Yudkowsky新书：极端末日主张远未达到论证门槛 — neil_chilson · 2026-09-10
- 【源头】Chilson梳理末日论三段论:AI不对齐、更聪明、碾压人类 — neil_chilson · 2026-09-10
- Chilson拆穿末日论证:把'理解世界'偷换成'操控世界' — neil_chilson · 2026-09-10
- 拆解末日论话术：把"智能"偷换成"操纵世界"并不成立 — neil_chilson · 2026-09-10
- 末日论者最大软肋：不懂复杂系统，误以为聪明即可掌控世界 — neil_chilson · 2026-09-10
- Neil Chilson三点批驳末日论:误解复杂系统是最大软肋 — neil_chilson · 2026-09-10
- 【源头】Neil Chilson 批 AI 末日叙事:恐惧好卖,但解决问题靠乐观 — neil_chilson · 2026-09-10
- 【源头】Reason 刊文批 Yudkowsky 新书：超级智能末日论证据不足 — neil_chilson · 2026-09-10