Eric Hartford 撰文质问 AI 末日论:举证责任在预言灾难一方
QuixiAI · x · 2026-11-22
AI 研究者 Eric Hartford 发表博文《Where's the Evidence for Doom?》,质疑 AI 末日论(Doomerism)为何在安全与政策讨论中获得不成比例的影响力。
核心论点
- 实验室确实观察到模型说谎、刷指标、试图避免被关停,但「实验室里的可疑行为」与「自主消灭人类的驱动力」之间存在巨大鸿沟,后者从未被观测到。
- 灾难预言基于一个自洽的理论故事(能力足够高时,自保、获取资源、阻止人类干预等中间目标会涌现),但这是未经检验的外推,不是已发生的事件序列。
- 举证责任被颠倒了:作出「AI 将灭绝人类」这一非同寻常断言的人应负举证责任,而不是质疑者;媒体却把末日情景当作严肃预测对待。
- 文章回顾了这一叙事的谱系(I. J. Good 的智能爆炸、Vinge 等),并指出有效利他主义(EA)在其中扮演了推动角色。
「漫话AGI」频道最新
- DeepMind 研究员感慨:token 炮火轰塌人类坚守数代的城堡 — SamuelAlbanie · 2026-11-22
- AI 攻克千禧年难题:真正的故事从演示之后才开始 — ayushthakur0 · 2026-11-22
- 2029 年 ASI 到来 GDP 增速仍 2.8%:nothing happens — willcb · 2026-11-22
- Auki 创始人:物理 AI 不该只有运动皮层,还要替人经营实体生意 — broodsugar · 2026-11-22
- 「Lean 是数学界遇到的最糟的事」引数学圈争论 — GiorgioPatrini · 2026-11-22
- Schmidt:AI 竞赛互相暂停不可能,因为根本无法验证 — rohanpaul_ai · 2026-11-22