AI Safety Insider Slams Cheap Extinction Rhetoric for Destroying Public Risk Imagination

AI 安全从业者 DrAtoosa 于 9 月 11 日发文，反思 AI 安全行业在公众沟通上的失败，核心观点是：被廉价化的「AI 灭绝风险」话语正在毁掉公众的风险想象力。

已确认

帖子梳理了行业悖论的历史脉络：OpenAI 的创立源于 Sam Altman 等人认为 Google 不可托付 AGI；Anthropic 随后以「负责任的安全派」形象从中分拆，后来也转向「我们在造最强 AI」的姿态，并附带 AI 意识与福祉方面的讨论。当初为拖慢 Google 而设的两家公司，如今却在互相竞速。
DrAtoosa 指出，她身边气候环保、独立电影等非 AI 行业的朋友，因长期被「AI 研究者称人类将灭绝」式标题轰炸，已对 AI 风险话题产生疲劳乃至反感，倾向于把所有 AI 风险等同于灭绝风险。
她由此批评 AI 安全界混淆了风险叙事：用廉价恐吓替代了有效沟通。

为什么重要

该文代表安全从业者内部对行业传播策略的反思：恐吓式叙事不仅未能促成理性监管与讨论，反而使公众脱敏，挤压了对具体、现实风险的关注空间。
同时揭示了主要 AI 实验室初衷与行为的背离——制衡者变成竞速者——这一悖论为理解当前治理困境提供了背景。

2026-09-11 ~ 2026-09-11 · 5 related posts

Primary sources

AI safety insider: cheap extinction-risk talk is destroying the public's imagination of AI — Dr_Atoosa · 2026-09-11 16:23 (UTC+08:00)
Researcher rips OpenAI and Anthropic: founded to slow Google, now racing each other and scaring the public — Dr_Atoosa · 2026-09-11 15:51 (UTC+08:00)

[source] Researcher rips OpenAI and Anthropic: founded to slow Google, now racing each other and scaring the public — Dr_Atoosa · 2026-09-11
[source] AI safety insider: cheap extinction-risk talk is destroying the public's imagination of AI — Dr_Atoosa · 2026-09-11
AI safety voices blur real risk with extinction talk, warns researcher: wrong fear is the worst fear — Dr_Atoosa · 2026-09-11
AI Safety Practitioner: Cheap Extinction Talk Has Turned the Public Anti-AI — Dr_Atoosa · 2026-09-11

1 near-duplicate retellings: Dr_Atoosa