Yudkowsky 经典段落再流行:「500 条命 vs 确定救 400 条」的选择题

NathanpmYoung · x · 2026-11-10

morallawwithin 转发 Yudkowsky《Circular Altruism》中的段落，称其与当下的 AI 圈争论高度相关。段落展示了一个经典利他主义困境：确定救 400 条命，还是 90% 概率救 500 条命？Yudkowsky 指出，如果你亲爱的女儿是那 500 人之一（虽不知是哪一个），你会更愿意「闭嘴并做乘法」——第一种选择救她的概率约 80%，第二种是 90%；而人群中的每个人都是某人的儿女，所以无论作为利他主义者还是父母都该选后者。他的重点不是一个人的命比 499 条更值钱，而是：只有当赌注远超自己的性命时，人才会绝望到肯用数学。