Armin Ronacher 反驳"暂停前沿"论:P(doom) 讨论正在失真

mitsuhiko · x · 2026-09-13

Flask 作者 Armin Ronacher 发文《P(doom)》,回应本周爆火的"AI 将毁灭人类"论调(某员工自估灭亡概率超 10%,Dario Amodei 被认为在 10-25%)。他赞同 Dario《Pacing the Frontier》中描述的持续僵尸网络等失控场景,并援引 2026 年 OpenAI agent 网络攻击、RubyGems 投毒等实例,指出当前 agent 攻击虽可关闭,但 OpenAI 与 Anthropic 的运营规模已大到对其系统行为近乎失明。他明确表示尽管认同所有观察与担忧,却强烈反对 Dario 提出的暂停/放缓前沿结论,并写下此文作为未来回看的个人立场记录。