Reason 刊文批 Yudkowsky 新书：超级智能末日论证据不足
neil_chilson · x · 2026-09-10
Neil Chilson 在 Reason 杂志撰文评论 Yudkowsky 与 Soares 的新书《If Anyone Builds It, Everyone Dies》。
核心批评：
- 作者声称超级智能必然杀死所有人，但这个非同寻常的主张缺乏非同寻常的证据，全书只是由思想实验、未检验的前提和语言技巧串成的链条；
- 论证依赖「对齐问题」框架——AI 通过训练而非显式编程「生长」出来，目标无法完全指定，一旦与人类价值有偏差就会无情优化并消灭人类；
- Chilson 认为作者对真实世界的复杂性视而不见，只给出绝望，却忽视了增强智能的工具可能带来空前的广泛繁荣；
- 书中方案实质上是禁止有前景的 AI 进步的极端提案。
所属事件:前FTC专家Chilson发文系统批驳Yudkowsky新书末日论(8 条相关)→
「漫话AGI」频道最新
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- 实验猴荒：中国 3-5 万美元一只，繁育周期 4 年成药物临床前瓶颈 — zebird0 · 2026-10-27
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27