Anthropic 前安全研究员:盲目冲向 RSI 是傲慢而非囚徒困境

dgrobinson · x · 2026-09-28

Nathan Calvin(引用转发被广泛讨论)表示,他不再认为各家竞相冲向 RSI(递归自我改进)是典型的囚徒困境——这更像是正常人一眼能看出的傲慢与疯狂,因此单方面克制其实是理性且道德的选择。他指出:如果你相信自己的活动在不远的将来可能导致大规模伤亡甚至灭绝,却仍要继续推进,举证门槛应当极高,而他认为 Anthropic 并未达到这个门槛。他还补充,冷战军备竞赛在个体层面也未必理性,自己早些时候对继续竞赛更宽容,但越临近越难以辩护。dgrobinson 对此表示强烈赞同。