CEV伦理缺陷：PCEV赋予施虐者额外影响力，后果比灭绝更糟
weidai11 · x · 2026-08-15
weidai11引用ThomasCederborg在LessWrong上的文章，指出最新版CEV（议会制CEV，PCEV）赋予那些本质上喜欢伤害他人的人额外影响力。如果PCEV被成功实施，结果将比灭绝更糟。这凸显了对齐目标分析（ATA）的重要性，并说明CEV可能构成“接管世界”的计划，因为它单方面用非常不同的结构取代当前世界权力结构。
所属事件:MIRI曾图谋接管世界？AI安全圈激辩历史与CEV(25 条相关)→
「漫话AGI」频道最新
- Anthropic内部6000亿美元ARR估算引热议：算力需求或占全球70% — rickasaurus · 2026-08-16
- 施密特警告：5 年后 AI 或发展出人类不懂的语言 — VeryWellVersed · 2026-08-16
- 反AI抗议者扮成“流氓AI代理”闯入OpenAI办公室 — Polymarket · 2026-08-16
- 争议：Anthropic 声称 AI 加速研发不足 2 倍遭质疑 — teortaxesTex · 2026-08-16
- 「错位博弈」：AI 或加剧机构目标漂移 — xuanalogue · 2026-08-16
- 人形机器人售价若低于汽车，经济价值或超全职员工 — VraserX · 2026-08-16