AI 研究者质疑 CEV 对齐方案：从未验证就交出光锥太冒险
xuenay · x · 2026-09-09
AI 研究者 xuenay 在与 Raemon777 的对齐讨论中反对以 CEV（连贯外推意志）作为对齐目标。他认为这是坏主意：
- 对齐本身已经足够难，不应再叠加 CEV 这种更加投机、从未被验证的概念
- 与其押注 CEV，不如先建立「可咨询的智慧顾问」，与之共同探究 CEV 是否可行，再考虑实现
- 他反问：一个连概念是否成立都不清楚、人类历史上从未测试过的东西，凭什么把整个光锥（宇宙未来资源）交给它？
所属事件:AI 对齐路线之争：研究者质疑 CEV 方案冒险不可验证(4 条相关)→
「漫话AGI」频道最新
- 求解 Navier-Stokes 花掉 1300 亿输出 token，按不同模型算高达 1800 万美元 — mitsuhiko · 2026-09-09
- 一句话判断：凡可验证的任务，模型迟早全面攻克 — vxnuaj · 2026-09-09
- 对齐乐观派长文：AI 本质上比人类员工更易控制 — QuintinPope5 · 2026-09-09
- 「我要去搞钱了」：AI 进展太快，研究员宣布放弃数学 — vxnuaj · 2026-09-09
- 3000 亿 output tokens:复现千禧年难题研究仅算力成本就值 2000-3000 万美元 — Paimaamu · 2026-09-09
- Zachary Lipton:作者署名制延续了三千年,prompter 时代能撑多久 — zacharylipton · 2026-09-09