安全研究者自省：谈灭绝风险几十年的人语气太不真实

geoffreyirving · x · 2026-09-24

AI 安全研究者 Geoffrey Irving 指出，AI safety 圈的人长期与风险共处，说话语气自然平淡，但这对刚接触的新人非常违和——「如果你真相信超级智能可能今天就会杀死所有人，怎么可能用玩笑和套话谈论灭绝？」

他认为最糟糕的是 AI 实验室的官方沟通（「我们致力于获取其收益并降低其风险」这类空话），但个人也常犯同样的错。他主张安全传播的语气至少有时应该匹配「刚得知超级智能可能杀死所有人」的真实冲击，并就此开了讨论串。