反对者用 Magnus Carlsen 类比质疑「超级智能灭绝概率」论述
pwlot · x · 2026-09-13
Kevin Hur 用一个国际象棋类比回应对 AI 灭绝风险的质疑：当有人说「我要和 Magnus Carlsen 下棋」，别人告诉他「他会赢」，他反问「那他会用哪一步赢我？」——没人能预测具体走法，但这不等于不能计算获胜概率。
这段话是对 nattyover 观点的引用式反驳：面对「有人举出灭绝级场景的具体例子吗」的追问，「没有，但我们不是超级智能」这类回答在逻辑上意味着，你既声称无法预见超级智能的行为，又声称在计算它带来的风险概率，两者矛盾。
这是 AI 安全讨论中「不可预测性 vs 可量化风险」之争的一个精炼表达。
所属事件:国际象棋类比走红：质疑 AI 灭绝论缺乏具体推演(2 条相关)→
「漫话AGI」频道最新
- Jessica Taylor 旧文重提:非超智能回形针最大化器也很危险 — jessi_cata · 2026-09-13
- Chamath 指控 Dario 借「降速」打压开源，e/acc 大 V 火力反击 — markjeffrey · 2026-09-13
- David Patterson 反驳 ASI 灭亡论:智能不等于权力与欲望 — davidpattersonx · 2026-09-13
- 剑桥学者 Krueger 推荐 Katja Grace 灭绝风险播客,AI 风险入门佳选 — DavidSKrueger · 2026-09-13
- AI 安全学者 David Krueger 推荐 KatjaGrace 播客:了解 AI 灭绝风险的入门材料 — DavidSKrueger · 2026-09-13
- 没有不确定性的 AI 预测只有一半价值：科学机器学习的关键一课 — bravo_abad · 2026-09-13