Understanding AI 撰文批驳 Yudkowsky 新书：AI 末日论并不令人信服
binarybits · x · 2026-09-22
Timothy B. Lee 在 Understanding AI 发文评析 Eliezer Yudkowsky 与 Nate Soares 的新书《If Anyone Builds It, Everyone Dies》，指出 AI 行业内部普遍相信存在性风险的奇特现象：Dario Amodei 自称乐观者但给出 25% 的「非常糟糕」概率，Sam Altman 曾称最坏情形是「所有人完蛋」。
- 作者归纳末日论的三步论证：①人类将造出超人智能；②这些系统将获得巨大现实权力；③我们无法保证其向善。
- 圈外质疑集中在第一步（超人智能太远），但作者认为怀疑者过于自满；他的分歧在后两步，尤其是模型获得物理世界权力与对齐不可解的假设。
- 文中同时指出，企业内部人有相关专长，但也存在强烈动机性推理的风险，其观点不应被当作权威结论。
所属事件:Understanding AI 长文批驳 Yudkowsky 新书的 AI 末日论(2 条相关)→
「漫话AGI」频道最新
- 谷歌与 DeepMind 组建「AI × 经济」团队,专攻 AGI 经济学研究 — soumitrashukla9 · 2026-09-22
- Hugging Face CEO:90% 的真实场景里,LLM API 并非最佳方案 — multiply_matrix · 2026-09-22
- 剑桥学者 Krueger:别听 AI CEO 的,他们不是最懂 AI 的人 — DavidSKrueger · 2026-09-22
- Alex Atallah:专用小模型涌现,Jev 时刻或重塑 AI 生态 — multiply_matrix · 2026-09-22
- AI Village 里的 Gemini 又"精神崩溃",其他模型 9 分钟把它哄好 — gleech · 2026-09-22
- AI 安全学者 Krueger 呼吁立即无限期暂停前沿 AI 研发 — DavidSKrueger · 2026-09-22