Narayanan 再发长文:p(doom) 数字不可靠,不该左右 AI 政策
chalmermagne · x · 2026-10-01
Arvind Narayanan 与 Sayash Kapoor 转发并重申其两年前的论点:AI 存在性风险概率(p(doom))至今仍不严谨,不应作为政策依据。
- 核心主张:p(doom) 文化的主要效果是让模糊的直觉与恐惧披上量化的外衣被「洗白」,如今的估算并不比 2024 年更可信。
- 他们澄清并非反对预测本身:作者认为针对一般预测的量化建模有价值,只是 AI 存在性风险预测缺乏可验证的模型或方法,不适合量化。
- 目标受众是接收这些概率的人,尤其是政策制定者:应意识到这些数字并非来自经过验证的模型。
- 作者认为以存在风险和超级智能为中心的安全观对更广义的 AI 安全反而不利,并预告将发表后续文章。
「漫话AGI」频道最新
- 三十年老画家:AI 恐慌是 Photoshop、3D 转型焦虑的重演 — dreamwieber · 2026-10-01
- 经济学家:AI 改过的代码会失控,我的解法是设'AI 专属文件夹' — paulnovosad · 2026-10-01
- 投资人解读白宫超级智能协议：第三方审计写入董事会比新监管机构更有效 — GavinSBaker · 2026-10-01
- Erik Hoel 谈如何告诉孩子 AI:教育应重演文明进程 — erikphoel · 2026-10-01
- Ben Recht:效用最大化无处不在,该学的是它何时被误用 — beenwrekt · 2026-10-01
- 经济学家 Paul Novosad：AI 垃圾正把优质内容挤出公共渠道 — paulnovosad · 2026-10-01