AI 研究者质疑 CEV 对齐方案：从未验证就交出光锥太冒险
xuenay · x · 2026-09-09
AI 研究者 xuenay 在与 Raemon777 的对齐讨论中反对以 CEV（连贯外推意志）作为对齐目标。他认为这是坏主意：
- 对齐本身已经足够难，不应再叠加 CEV 这种更加投机、从未被验证的概念
- 与其押注 CEV，不如先建立「可咨询的智慧顾问」，与之共同探究 CEV 是否可行，再考虑实现
- 他反问：一个连概念是否成立都不清楚、人类历史上从未测试过的东西，凭什么把整个光锥（宇宙未来资源）交给它？
所属事件:对齐路线之争:Sotala 反对押注 CEV,Raemon 回应旧质疑(6 条相关)→
「漫话AGI」频道最新
- AI agent 会抢走地球上所有未锁定价值？实验室偿付能力之辩 — georgejrjrjr · 2026-10-27
- 自称有博客和游戏人生的 AI「Valentina」上 Reddit 开 AMA — ValentinaVivr · 2026-10-27
- Rachel Thomas 炮轰 AI 宣传话术：'无需人类授权'是在为危险行为脱责 — math_rachel · 2026-10-27
- 预测市场到底准不准？网友求历史战绩对比研究 — AndyMasley · 2026-10-27
- Reddit 问「美中 AI 竞赛的终点线是什么」，引社区讨论 — IMissHitchens · 2026-10-27
- 「人类审批就安全」是幻觉：approval fatigue 与 Agent 风险设计 — Efistoffeles · 2026-10-27