专家反驳扎克伯格AI长文：生物武器风险论点站不住脚
davidmanheim · x · 2026-08-11
针对 Meta 创始人马克·扎克伯格关于超级智能与 AI 风险的长文，AI 安全专家 David Manheim 转发了 Aaron Scher 的深度批评并表达了认同。
批评指出，扎克伯格在文中关于滥用风险（Misuse risks）的处理存在严重错误。扎克伯格似乎认为生物武器具有对防御方有利的攻防平衡（只要让防御者也能用上好模型就没问题），但这与该领域专家的普遍共识完全相悖。此外，文中“应对科学新发现带来风险的长期方案是加速科学进步”这一观点也被指责为短视——在长期到来之前，人类可能已经死于被工程化改造的流行病。
不过，批评也肯定了文中关于错位风险（Misalignment）和生存风险的讨论比扎克伯格以往的表态要好得多，但仍存在认知上的困惑，表明他尚未完全跟上相关论证的逻辑。
「漫话AGI」频道最新
- 研究：LLM 自发同步或引发股市闪崩 — alexbilz · 2026-08-11
- 哈佛MIT造出83亿虚拟人,AI市场调研一夜搞定 — mtizard · 2026-08-11
- AI 实验室陷道德争议：被指制造风险后高价出售安全方案 — jachiam0 · 2026-08-11
- Reddit 热议：Vibe coding 宛如挂着代码编辑器的“末日刷屏” — Nelson-Tyne · 2026-08-11
- 黄仁勋：原始智力正沦为商品，人类核心价值在于同理心与直觉 — r0ck3t23 · 2026-08-11
- 扎克伯格预测：AI将带来“工作富足”而非大规模失业 — Polymarket · 2026-08-11