安全从业者反思:廉价化的「AI 灭绝风险」话语如何毁掉公众想象力

Dr_Atoosa · x · 2026-09-11

作者 Atoosa 博士梳理了 AI 竞赛的历史脉络：OpenAI 的创立源于 Sam Altman 等人认为 Google 不可托付 AGI，Anthropic 分拆自称「负责任的安全派」，如今这两家为拖慢 Google 而生的公司却在互相竞速。

她指出一个悖论：非 AI 领域的朋友（环保、独立电影等）因不断看到「AI 研究者称 AI 将毁灭人类」的标题而变得反 AI，失去了对 AI 帮助自身目标的想象；而安全圈/EA/理性主义者中仍有人把普通 AI 风险与灭绝风险混为一谈，使「real risk」成为无所不包的筐（灭绝、生物恐怖、网络攻击、政府接管）。作者认为这种廉价话语是安全圈对世界最大的伤害之一，呼吁保持清醒、纠正公众想象——错误的恐惧会夺走清晰思考与正确行动的能力。