Understanding AI 撰文批驳 Yudkowsky 新书：AI 末日论并不令人信服
binarybits · x · 2026-09-22
Timothy B. Lee 在 Understanding AI 发文评析 Eliezer Yudkowsky 与 Nate Soares 的新书《If Anyone Builds It, Everyone Dies》，指出 AI 行业内部普遍相信存在性风险的奇特现象：Dario Amodei 自称乐观者但给出 25% 的「非常糟糕」概率，Sam Altman 曾称最坏情形是「所有人完蛋」。
- 作者归纳末日论的三步论证：①人类将造出超人智能；②这些系统将获得巨大现实权力；③我们无法保证其向善。
- 圈外质疑集中在第一步（超人智能太远），但作者认为怀疑者过于自满；他的分歧在后两步，尤其是模型获得物理世界权力与对齐不可解的假设。
- 文中同时指出，企业内部人有相关专长，但也存在强烈动机性推理的风险，其观点不应被当作权威结论。
所属事件:Understanding AI 长文批判 Yudkowsky 新书的末日论论证(3 条相关)→
「漫话AGI」频道最新
- Gemini 几乎自主完成「血染钟楼」社交推理 benchmark 实验 — eliebakouch · 2026-11-12
- Ramez 质疑 AI 时间线模型：OpenAI 与 GDM 实测远短于 METR 外推 — clarejtbirch · 2026-11-12
- Pedro Domingos 调侃「Dario 定律」：所需算力也在指数增长 — pmddomingos · 2026-11-12
- Jaron Lanier 纽约时报撰文：硅谷正用 AI 末日叙事搞砸自己 — databoydg · 2026-11-12
- AI agent 用得越多，瓶颈越是你自己：人类信息处理仅 10 bits/s — soumitrashukla9 · 2026-11-12
- Matt Pocock:能把业务讲清楚,AI 时代你就完成了半套自动化软件 — mattpocockuk · 2026-11-12