AGI 需协调而非圣贤，激励机制致军备竞赛难停

danfaggella · x · 2026-08-18

文章核心观点是：期望 AGI 实验室领导者成为“无私圣人”不切实际，应承认人性的自私本质。目前的激励机制使得各方为了率先构建 AGI 而不得不忽视对人类的风险，因为如果自己停下，别人就会继续。因此，解决 AGI 带来的生存风险不应依赖于选拔道德完美的领导者，而应通过国际治理机制来协调和引导各方私利，建立约束军备竞赛的框架。