「要把光锥交给从未验证过的新概念吗」:CEV 路线遭尖锐质疑
xuenay · x · 2026-09-09
Kaj Sotala 在与 Raemon 的对齐讨论中火力全开:CEV(coherent extrapolated volition)连概念是否可行、是否有意义都不确定,人类却要考虑把整个光锥(lightcone)的未来交给这个「人类历史上从未被测试过的全新事物」。这表达了对激进对齐方案风险的强烈保留态度。
所属事件:AI 对齐路线之争：研究者质疑 CEV 方案冒险不可验证(4 条相关)→
「漫话AGI」频道最新
- LEAP 专家调查:AI 2027 年前攻克千禧年数学难题概率仅 10% — Afinetheorem · 2026-09-09
- LEAP 专家小组预测:2027 年前 AI 解决千禧年难题概率仅 10% — Afinetheorem · 2026-09-09
- 美国数学会官方表态：Navier-Stokes 进展是人类知识的里程碑 — AlexKontorovich · 2026-09-09
- 智能体规模估算:出一个强解需要 1 千至 1 万个 agent — cephaloform · 2026-09-09
- Axios/Wired 起底：OpenAI 9 月 1 日启动求解，万名智能体 88 小时出结果 — TheZachMueller · 2026-09-09
- OpenAI 宣布 1 万 AI 智能体 88 小时攻克 Navier-Stokes 千禧年难题 — polynoamial · 2026-09-09