banteg 转引长文批 AI safety 圈:长期主义道德数学是自大妄想

banteg · x · 2026-09-18

开发者 banteg 转发并附和 DrNickA 对 AI safety 群体的批评:称其陷入「集体自大妄想」,自认对全人类乃至整个光锥负责;结合边沁式功利主义,会推导出「全景监控」式的治理主张——为了阻止模型蒸馏或禁开源,代价是全民监控。被引用的 greentext 长帖用渐进式推演讽刺有效利他主义:从捐蚊帐救人,一路推到「未来 5 亿年的万亿潜在人类」在道德计算中压倒当下活人,从而为荒谬的风险权衡和强硬长期主义立场辩护。banteg 补充观点:这种长期主义道德数学在普通贴现率下根本站不住脚。