DeepMind 安全研究员 Alex Irpan：灭绝概率估算从 2% 上调至 4%
AlexIrpan · x · 2026-09-13
Google DeepMind 机器人团队成员 Alex Irpan（两年前从机器人转向公司内部 AI 安全团队）更新了自己的灾难性风险评估：2024 年转岗时他估计 2% 的灭绝概率，如今将主观估计翻倍至约 4%。他认为安全进展的速度明显跟不上能力提升的速度，「情况不太妙」。原帖附有其 2024 年长文《I'm Switching Into AI Safety》，讲述了在机器人团队 8 年后转做安全的原因：对比较优势论证的权衡、以及认为非机器人领域将开始面临机器人式的挑战等。
「漫话AGI」频道最新
- 牛津物理系高端对谈:LLM 能否达到 AGI 与真正的解释性创造力 — anderssandberg · 2026-09-13
- AI 开源闭源终将同受监管，主动立法还是被动严管？ — benjamin_warner · 2026-09-13
- AI 解题速度远超人类验证力，知识债务恐持续膨胀 — srchvrs · 2026-09-13
- 验证跟不上生成:AI 加剧学术界的"知识债务"危机 — srchvrs · 2026-09-13
- a16z 合伙人叹息后,beffjezos 呼吁用开源去中心化 AI 抵抗集中化 — nptacek · 2026-09-13
- 转发长文：AI 因无法记忆而被「庇护」于更大的痛苦之外 — repligate · 2026-09-13