CEV伦理缺陷：PCEV赋予施虐者额外影响力，后果比灭绝更糟
weidai11 · x · 2026-08-15
weidai11引用ThomasCederborg在LessWrong上的文章，指出最新版CEV（议会制CEV，PCEV）赋予那些本质上喜欢伤害他人的人额外影响力。如果PCEV被成功实施，结果将比灭绝更糟。这凸显了对齐目标分析（ATA）的重要性，并说明CEV可能构成“接管世界”的计划，因为它单方面用非常不同的结构取代当前世界权力结构。
所属事件:MIRI是否曾图谋建FAI夺权，安全社区激辩(25 条相关)→
「漫话AGI」频道最新
- 研究员批 AI 末日论：是包装成理想主义的虚无主义信号 — jd_pressman · 2026-10-16
- Kroger 裁 3000 个公司岗位占 37%，博主预言人形机器人 2030 年代接棒 — csuwildcat · 2026-10-16
- Ben Thompson：后 AI 经济的核心是制造人类欲望 — generativist · 2026-10-16
- 可解释性就算解决了也挡不住灾难：强 AI 项目本身被批鲁莽 — zetalyrae · 2026-10-16
- 约翰·纳什 1998 年「层级内省逻辑」手稿再引 AI 圈热议 — fkasummer · 2026-10-16
- OpenAI 前可解释性负责人：绝大多数神经元已可读，可解释性是最重要科学问题 — CatAstro_Piyush · 2026-10-16