前 DeepMind/Anthropic 研究员：尚无科学方案解决递归自改进 AI 风险

harris_edouard · x · 2026-09-10

曾在 Google DeepMind 工作、现就职于 Anthropic 的研究员 Annawang（以个人身份发文）表示，这在其同行中是普遍共识：目前还没有一个可行的科学方案来应对递归自我改进 AI 带来的风险。

Paul Graham 转发并评论称，这正是美国实验室领先是好事的原因——如果是中国的实验室领先，其员工将无法对外预警这类威胁；而中国实验室会在一年内遭遇同样的威胁，却完全悄无声息。