末日论之争升温:Taylor Lorenz 批 AI 末日论,Anthropic 员工称十年内灭世风险超10%
mark_k · x · 2026-09-09
围绕 AI 生存风险的争论在 X 上再度升温。Anthropic 对齐研究员 Evan Hub 表示,他真诚相信 AI 可能毁灭全人类,个人估计未来十年内发生概率超过 10%,并称 Anthropic 已尽力但尚未有解决超智能对齐的方案,也不确定是否在正确轨道上。
记者 Taylor Lorenz 强烈反驳这种"说教式末日论"帖文,认为这在向公众灌输对新技术的恐惧,最终会被用来推动"最糟糕的法律",只是为了博取推特点赞。
这条引用串浓缩了当前 AI 圈两派核心分歧:对齐阵营的 earnest 风险叙事 vs. 反对者眼中制造恐慌、绑架监管的流量行为。
所属事件:Anthropic 研究员因安全担忧离职，警告灭绝风险超 10%(120 条相关)→
「漫话AGI」频道最新
- voooooogel：「随机鹦鹉」叙事反而成了 AI 进步的意外助攻 — voooooogel · 2026-09-10
- voooooogel：不看好 AI 安全大众运动，主流版会比特 slur 群更糟 — voooooogel · 2026-09-10
- x-risk 研究者提醒：还有比灭绝风险更可怕的 s-risk — jacyanthis · 2026-09-10
- AI 安全争论：全球共同监管 ASI 是否可能成为死结 — AIandDesign · 2026-09-10
- 安全研究员的新提议:和对家实验室能力研究员「搭伙离职」 — ESYudkowsky · 2026-09-10
- Allie Miller 炮轰 AI 实验室:连安全峰会都定不了日子 — alliekmiller · 2026-09-10