功利主义不该通向「不择手段」: bounded 决策者视角反驳 AI 险单边主义

NathanpmYoung · x · 2026-10-17

NathanpmYoung 回应一种常见论调:「如果你是功利主义者,就该为最大化善去做所有违法的事」。他反驳称,真正的功利主义者应承认自己是有限、有缺陷的决策者,不会鲁莽滑向单边主义(unilateralism)。原帖 arctotherium42 则警告:对后果主义者而言行动与不行动没有区别,虽然多数 EA 会回避这一推论,但历史上已有多起疯狂邪教、多起与 AI 生存风险相关的恐怖事件以及 FTX 暴雷,真正「咬子弹」的人并不为零。这是 AI 安全圈关于伦理推论边界的实质争论。