研究员批AI安全界混淆风险叙事：错误恐惧正在毁掉公众想象力
Dr_Atoosa · x · 2026-09-11
作者回顾了行业悖论：OpenAI 因担心 Google 不可托付 AGI 而成立，Anthropic 又以「负责任的安全派」分拆，结果当初为拖慢 Google 而设的两家公司如今互相竞赛。
更深的担忧在于公共叙事：作者身边气候、独立电影等非 AI 行业的朋友因铺天盖地的「AI 灭绝人类」标题而转向反 AI，丧失了对 AI 帮助实现目标的想象。她批评部分安全/EA/理性主义者长期把廉价的 AI 风险与灭绝级风险混为一谈，使「真实风险」成了灭绝、生物恐袭、网络攻击、政府接管等一切坏事的统称，这种混淆传播是对世界最大的伤害之一。
结论：要艰难但坚定地纠正公众想象——错误的恐惧是最坏的恐惧之一，会在 AGI 之前就先夺走人们清晰思考和正确行动的能力。
所属事件:AI安全从业者反思：廉价灭绝叙事毁掉公众风险想象力(5 条相关)→
「漫话AGI」频道最新
- 与 ChatGPT 聊完两本书写作计划后，他觉得写不写都不重要了 — tinyfool · 2026-09-11
- 独立开发者观点:AI 让一人包办产品全流程成为可能 — alexmacgregor__ · 2026-09-11
- AI 安全从业者反思：廉价恐吓让公众把 AI 风险等同于灭绝风险 — Dr_Atoosa · 2026-09-11
- 博主悬赏页9年来首次被bot用AI文本蹲赏金 — gleech · 2026-09-11
- Mozilla CTO 呼吁校园暂停生成式 AI：恐失去一代儿童 — Dan_Jeffries1 · 2026-09-11
- 技术假说:ASI 会因数学激励而永久保护人类多样性 — No_Cause_2731 · 2026-09-11