ITIF 撰文反驳减速论:「10% 灭绝概率」并无实证依据

castrotech · x · 2026-09-17

ITIF 发表文章《The Case for Safer AI Without Slowing Progress》,主张目标应是「更安全且更强大的 AI」,而非以安全为名拖慢前沿进展。

要点:

背景:Anthropic 研究员 Jacob Coxon 离职并警告前沿 AI 开发者「真心认为 AI 可能在本十年末杀死所有人」;对齐负责人 Evan Hubinger 称个人估计十年内 AI 灭绝人类的概率超过 10%。
作者指出 Dario Amodei、Sam Altman、Demis Hassabis、Musk 等均表达过减速/暂停意愿,这一论调十年来反复出现,新变化只是「10%」这个数字。
核心反驳:给 AI 灭绝人类的概率赋值没有任何实证基础——从未出现自主自我改进且以消灭人类为目标的 AI 系统,既无历史数据可统计,也无模型可换算。
结论:应投资安全研究、测试与防护措施,但不必给这项重要技术踩刹车。

「漫话AGI」频道最新