若前沿降速协调失败,Anthropic 仍会选择继续冲向超级智能

DKokotajlo · x · 2026-11-20

Eric Neyman 向 Anthropic 提出一个尖锐假设问题:如果协调(自愿或政府强制的)前沿降速的努力失败,而对齐状况「还行但不算好」——评测和监控都很不完美、迷雾重重,Anthropic 主观认为继续竞赛大概率不会导致 AI 接管(但意见区间在 1%–20%),且 OpenAI 紧追不舍、网络安全状况仍不完美——它会继续吗?

Daniel Kokotajlo 回应称,他不知道 Anthropic 官方会怎么回答,但对真实答案有相当把握:他们会继续。这延续了此前 Kokotajlo 离职 OpenAI 后对实验室安全承诺的公开质疑脉络。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →