Anthropic研究员反驳：风险未发生不等于担忧者愚蠢

geoffreyirving · x · 2026-09-10

Anthropic 研究员 Geoffrey Irving 回应了一种常见论调——「如果 AI 失控风险最终被化解，当初担忧的人也不会得到功劳，只会被当成可笑的杞人忧天」（原帖以核风险在 90 年代后的舆论为例）。

Irving 认为这种说法是错误的：超级智能真正安全到来的一大后果，恰恰就是不会再犯「风险没发生就嘲笑担忧者愚蠢」的低级错误。换言之，他主张一个安全成功的 AI 未来本身就包含了对风险预警工作的正确认知与尊重。