长文批有效利他主义:对宇宙的普遍责任正在造成伤害
NathanpmYoung · x · 2026-09-18
Ben Hoffman 2017 年旧文《Against responsibility》因近期事件被重新引用,质疑有效利他主义(EA)的核心心态。
- 作者观察:身边充满「想为宇宙未来负责」的好心人,这种态度正在造成实际伤害。
- 核心论证:承担责任意味着试图控制;普遍责任=试图普遍控制,而最大化控制有两个结构性副作用——对他者持对抗姿态,以及决策瘫痪。
- 作者区分 EA 的两面:最好的情况是像 Katja Grace 关于素食主义的权衡分析那样有原则的推理;最坏的情况则表现为咖啡消费的道德焦虑、以「更大善」为名说不太真的话、对他人施加不当社会压力,以及在没有可靠实绩的情况下不断加码资源索取。
- 结论:需要一种实用的道德哲学,描述能与其他善意行为者共存共赢的策略,而非把他们都当作控制对象。转发者 NathanpmYoung 表示在工作中害怕自认掌握正确答案,期待「多极均衡」式的更多好结果、更少坏结果。
「漫话AGI」频道最新
- Gary Marcus 翻旧账:2023 年就向参议院预警 AutoGPT 安全风险 — GaryMarcus · 2026-09-18
- 艺术家长文:模型对齐在实践上无解,2030 年代或有零对齐 GPT-6 级模型 — sterlingcrispin · 2026-09-18
- 从业者谈 AI 末日论：研究员早已转向思考后 AGI 时代如何保存人类 — mobileraj · 2026-09-18
- 算法只用你重复的部分预测你,其余皆视为噪音 — YogeshMalik · 2026-09-18
- Karpathy 描绘 LLM「认知内核」愿景,JEV 被视为其雏形 — Paimaamu · 2026-09-18
- p(doom) 到底指什么:AI 反叛与恐怖分子用 AI 造生化武器算不算 — bosmeny · 2026-09-18