AI Impacts 灭绝风险调查再引质疑：措辞模糊、有效样本仅 8%
DrTechlash · x · 2026-09-15
AI Impacts 的新一轮 AI 灭绝风险调查出炉，作者 DrTechlash 指出其老问题依旧：
- 措辞含糊：受访者被要求给"人类灭绝或同样永久且严重的人类失能"打概率——把"灭绝"与定义不明的"失能"捆绑成一个数字，媒体却只报道"灭绝概率"。有的版本还要求估计百年尺度上这种极不明确结局的概率。
- 主办方自己承认局限：Katja Grace 在 2024 年访谈中承认受访者"极不可能是 AI 预测专家"、存在"显著的框架效应"；新论文也写道专家身份对预测准确性几乎无预测力。
- 样本量堪忧：向 19,874 个邮箱发信，收到的完整/部分回复 2,052 份（10%），主分析保留 1,580 人，最终作答者 1,502 人；且三个版本的"灭绝/失能"问题分别只由 744、392、353 人的随机子集作答。
- 意识形态背景：AI Impacts 隶属伯克利 MIRI，Yudkowsky 主张"全部关停"，Grace 自称 p(doom) 在 10%-90% 之间；合著者 David Krueger 给出 75% 的毁灭概率。MIRI 明言目标是推动政策监管、"击碎" Overton window。
所属事件:AI 研究者大调查：灭绝风险预期上调至约 18%(14 条相关)→
「漫话AGI」频道最新
- Mark Cuban：社媒算法放大反AI情绪，Meta谷歌靠骂AI补贴AI — 2C_ornot2C · 2026-09-15
- zetalyrae:AI 运动像启蒙运动,聚集野心勃勃的年轻智者 — zetalyrae · 2026-09-15
- AI 让需求无限放大供给，数字通缩与稀缺品通胀并存 — signulll · 2026-09-15
- Anthropic 研究员：实验室重数理轻写作，或在公众认知上付出巨大代价 — lateinteraction · 2026-09-15
- 「心智即产品」引争议:安全研究该不该像安全带气囊一样公开共享 — yeastsplainer · 2026-09-15
- 经济学家回击「实验室该做亲劳动者AI」论:市场分工难以事前指定 — soumitrashukla9 · 2026-09-15