Narayanan 与 Kapoor 重发旧文:p(doom) 概率仍不可靠,不该驱动 AI 政策
mikeflache · x · 2026-10-07
普林斯顿研究者 Arvind Narayanan 与 Sayash Kapoor 重发两年前的长文,批评用「毁灭概率 p(doom)」为 AI 存亡风险做量化论证的做法:这些估计缺乏归纳、演绎或历史预测记录的支撑,本质是把模糊直觉披上量化的外衣。
核心论点:
- 对史无前例的灾难计算精确概率在数学上不可行,这类数字并非来自经过验证的模型或方法;
- 用高度投机、带偏差的主观猜测驱动公共政策,可能导向误导性的限制性监管;
- 他们不反对预测科学本身(Arvind 曾任预测研究机构顾问),批评仅针对 AI 存亡风险预测这一特例;
- 建议决策者转向能应对具体、可观测 AI 危害的灵活监管框架。
作者指出 p(doom) 文化把 AI 安全议程过度锚定在存亡风险与超级智能上,反而适得其反。
「漫话AGI」频道最新
- 图灵奖得主 Patterson:2030 年前 AI 将取代所有工作 — davidpattersonx · 2026-10-07
- 博主抨击 Anthropic 周边有效利他主义:别让意识形态替人类做决定 — VraserX · 2026-10-07
- Grady Booch:全球正陷入深度自我怀疑的数学家为数不少 — Grady_Booch · 2026-10-07
- eigenrobot 谈伦理规范:像演化有机体,而非理性设计的机器 — eigenrobot · 2026-10-07
- 模型不是心智:借 Erlang/BEAM 重思 agent 架构经济学 — arthurcolle · 2026-10-07
- 推理结果平均耗 3 小时 ChatGPT Pro 算力,scaling 隐忧引热议 — birchlse · 2026-10-07