《反对 AI 万因论》：指责安全组织回避灭绝风险话题
zetalyrae · x · 2026-09-30
Gabe 与 Fernando Borretti 在 Cognition Café 发表长文《Against the AI Omnicause》，zetalyrae 参与了合作并转发。
核心论点：
- AI 安全组织的公开议程充斥 deepfake、失业、虚假信息等「大小问题清单」，却几乎不提顶级专家乃至 AI 公司 CEO 本人承认的灭绝风险（CEO 们认为有约四分之一概率「非常糟糕」）。
- 作者访谈发现许多安全组织创始人与资助者的真实最大担忧正是人类灭绝，但公开倡导中绝口不谈——这种私下信念与公开主张的脱节难以自圆其说。
- 作者用「AI omnicause」命名这种把所有问题都归到 AI 名下的倡导模式，类比：泰坦尼克号看见冰山一英里外驶来，船员却在讨论三等舱健身房权益是否公平。
- 结论是激进主张：既然其他路径都不够，就应直接致力于禁止 ASI（超级智能），而不是围着外围问题打转。
「漫话AGI」频道最新
- 学者自试 LLM 写审稿意见:模型表现极差,考虑翻译绕路提升质量 — paulnovosad · 2026-09-30
- 投资人 Matt Turck:如今吃饭育儿投资事事都要先问 AI — mattturck · 2026-09-30
- 经济学家批评用 LLM 代写审稿意见:这是把同行评审推向更坏均衡 — paulnovosad · 2026-09-30
- Every 团队：自动化反而增加人类专家工作量 — every · 2026-09-30
- 哲学教授发难：写作没那么重要，AI 时代思考靠对话 — joshgans · 2026-09-30
- 如果电影里出现这页PPT，你猜剧情会怎么走 — TheZvi · 2026-09-30