AI安全从业者反思：廉价灭绝叙事毁掉公众风险想象力

AI 安全从业者 DrAtoosa 于 9 月 11 日发文，反思 AI 安全行业在公众沟通上的失败，核心观点是：被廉价化的「AI 灭绝风险」话语正在毁掉公众的风险想象力。

已确认

• 帖子梳理了行业悖论的历史脉络：OpenAI 的创立源于 Sam Altman 等人认为 Google 不可托付 AGI；Anthropic 随后以「负责任的安全派」形象从中分拆，后来也转向「我们在造最强 AI」的姿态，并附带 AI 意识与福祉方面的讨论。当初为拖慢 Google 而设的两家公司，如今却在互相竞速。
• DrAtoosa 指出，她身边气候环保、独立电影等非 AI 行业的朋友，因长期被「AI 研究者称人类将灭绝」式标题轰炸，已对 AI 风险话题产生疲劳乃至反感，倾向于把所有 AI 风险等同于灭绝风险。
• 她由此批评 AI 安全界混淆了风险叙事：用廉价恐吓替代了有效沟通。

为什么重要

• 该文代表安全从业者内部对行业传播策略的反思：恐吓式叙事不仅未能促成理性监管与讨论，反而使公众脱敏，挤压了对具体、现实风险的关注空间。
• 同时揭示了主要 AI 实验室初衷与行为的背离——制衡者变成竞速者——这一悖论为理解当前治理困境提供了背景。

2026-09-11 ~ 2026-09-11 · 5 条相关

• 【源头】AI 研究者批 OpenAI 与 Anthropic:本想拖慢 Google,结果互成对手 — Dr_Atoosa · 2026-09-11
• 【源头】安全从业者反思:廉价化的「AI 灭绝风险」话语如何毁掉公众想象力 — Dr_Atoosa · 2026-09-11
• 研究员批AI安全界混淆风险叙事：错误恐惧正在毁掉公众想象力 — Dr_Atoosa · 2026-09-11
• AI 安全从业者反思：廉价恐吓让公众把 AI 风险等同于灭绝风险 — Dr_Atoosa · 2026-09-11

另有 1 条近重复转述:Dr_Atoosa