AI Impacts 灭绝风险调查再引质疑：措辞模糊、有效样本仅 8%
DrTechlash · x · 2026-09-15
AI Impacts 的新一轮 AI 灭绝风险调查出炉，作者 DrTechlash 指出其老问题依旧：
- 措辞含糊：受访者被要求给"人类灭绝或同样永久且严重的人类失能"打概率——把"灭绝"与定义不明的"失能"捆绑成一个数字，媒体却只报道"灭绝概率"。有的版本还要求估计百年尺度上这种极不明确结局的概率。
- 主办方自己承认局限：Katja Grace 在 2024 年访谈中承认受访者"极不可能是 AI 预测专家"、存在"显著的框架效应"；新论文也写道专家身份对预测准确性几乎无预测力。
- 样本量堪忧：向 19,874 个邮箱发信，收到的完整/部分回复 2,052 份（10%），主分析保留 1,580 人，最终作答者 1,502 人；且三个版本的"灭绝/失能"问题分别只由 744、392、353 人的随机子集作答。
- 意识形态背景：AI Impacts 隶属伯克利 MIRI，Yudkowsky 主张"全部关停"，Grace 自称 p(doom) 在 10%-90% 之间；合著者 David Krueger 给出 75% 的毁灭概率。MIRI 明言目标是推动政策监管、"击碎" Overton window。
所属事件:AI研究者大调查:灭绝风险预期约18%引热议(17 条相关)→
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31