Rameer Naam:AI 灭绝论被夸大,恶意行为者滥用 AI 生物武器才是更现实的威胁
ramez · x · 2026-09-15
Rameer Naam 在与 davidmanheim 的讨论中重申其对 AI 风险的判断:灭绝情景戏剧性地不如那些「仍需认真避免」的后果可信。他认为灭绝可能只属于一个假想的、拥有遍布各地的全人形机器人且执意消灭人类的 ASI,而这条链路需要多个极其不可能的 conditional。
相比之下,更现实的担忧是恶意人类行为者利用 AI 增强其生物武器能力:导致灭绝的概率极小,但可能造成真实且严重的危害。他建议这是不同阵营更容易达成共识、在对话中取得进展的切入点。
所属事件:AI安全圈激辩：灭绝叙事与ASI风险该如何向政策制定者沟通(9 条相关)→
「漫话AGI」频道最新
- 调查报道:Alpha School 17 所校区进内部观察名单,Ackman 任影子主管 — benjaminjriley · 2026-11-02
- 谷歌首席经济学家:AI 改造的岗位远多于取代,红利在于重构工作流 — danielrock · 2026-11-02
- Daniel Lemire:AI 让普通服务器需求暴涨,全球 CPU 出货将翻倍 — lemire · 2026-11-02
- 对齐研究者批「对齐」一词:暗示了并不存在的一致性 — davidmanheim · 2026-11-02
- 2035 年印度父母不问工资，只问你管几个 Agent — theteknosaur · 2026-11-02
- 美国 AI 付费订阅用户不足 5%,算力与电力仍是最紧约束 — NinaDSchick · 2026-11-02