AI 对齐路线之争：研究者质疑 CEV 方案冒险不可验证

Kaj Sotala 等研究者在与 Raemon 的对齐路线讨论中反对以 CEV（连贯外推意志）作为对齐目标，提出三点质疑：CEV 概念本身是否连贯、实践中能否实现、其灾难性失败概率是否真的低于更简单的方案。他主张选择已知可行的「智慧顾问」式最小化方案，认为对齐本身已足够难，不应叠加从未验证过的新概念，更不应把整个光锥交给未经验证的想法。

2026-09-09 ~ 2026-09-09 · 4 条相关

• 对齐路线之争:质疑 CEV 的可行性与灾难风险高于简易方案 — xuenay · 2026-09-09
• Kaj Sotala:对齐应选已知可行的「智慧顾问」方案,而非押注 CEV — xuenay · 2026-09-09
• 「要把光锥交给从未验证过的新概念吗」:CEV 路线遭尖锐质疑 — xuenay · 2026-09-09
• AI 研究者质疑 CEV 对齐方案：从未验证就交出光锥太冒险 — xuenay · 2026-09-09