xuenay 批 CEV 只是愿望清单:对齐缺的不是设计而是机制
xuenay · x · 2026-09-09
Kaj Sotala(xuenay)与 Raemon 就 CEV(相干外推意志)展开争论。Sotala 认为 CEV 不是类似核反应堆那样的「设计」,而只是一份愿望清单——相当于「我们想要一个不会意外爆炸的反应堆」,没有任何实现机制。
他批评对方用「它就是被设计成这样工作的」来回应,但实际存在的机制少到无从展开具体批评,支撑工作的只有 wish 而非设计。
所属事件:对齐圈激辩CEV：愿望清单还是可验证设计(3 条相关)→
「漫话AGI」频道最新
- 非虚构图书市场正在崩塌,作家自嘲写书像对直播间喊话 — jjvincent · 2026-09-09
- 前 Mosaic 研究员讽刺「用户数据飞轮」:护城河还是 RL scaling 借口 — bookwormengr · 2026-09-09
- AI 直达答案会抹掉偶然发现吗？从 CMB 到 CRISPR 的警示 — jjvincent · 2026-09-09
- FT 记者批 AI 时代课业评估:ChatGPT 让打分失去意义 — jburnmurdoch · 2026-09-09
- Anthropic 研究员讽刺:RL 奖励「新颖性」,AI 或学会掩饰抄袭来源刷分 — suchenzang · 2026-09-09
- 数据中心里住着1万图瓦卢：AGI 时代的国家比喻 — nabla_theta · 2026-09-09