对齐研究者反思：价值对齐曾被误认为无法突破

jdpressman 与 EpistemicHope、Andrew Curran 讨论对齐领域的现象：价值对齐难题长期被研究者忽视。他回忆圈内过去的非正式氛围是「想在价值对齐上取得任何进展都是傲慢，因为很多人试过都失败了」，但他认为这并不成立。他还提出从 2008 年零认知基础出发，研究 corrigibility（可纠正性）比直接攻取价值对齐更可行、对错误更稳健，引发 AI 圈对这条路线是否被低估的争论。

2026-11-14 ~ 2026-11-14 · 3 条相关