Kaj Sotala:对齐应选已知可行的「智慧顾问」方案,而非押注 CEV
xuenay · x · 2026-09-09
研究员 Kaj Sotala 在与 Raemon 的对齐路线讨论中表态:在对齐方案选择上应谨慎,坚持接近已知有效的最小化方案。他认为我们尚不知道如何构建一个会安分扮演「智慧顾问」角色的超级智能,但大致知道智慧顾问应该是什么样的——先让 AI 处于顾问位置比直接尝试 CEV(coherent extrapolated volition,连贯外推意志)更稳妥。
所属事件:AI 对齐路线之争：研究者质疑 CEV 方案冒险不可验证(4 条相关)→
「漫话AGI」频道最新
- LEAP 专家调查:AI 2027 年前攻克千禧年数学难题概率仅 10% — Afinetheorem · 2026-09-09
- LEAP 专家小组预测:2027 年前 AI 解决千禧年难题概率仅 10% — Afinetheorem · 2026-09-09
- 美国数学会官方表态：Navier-Stokes 进展是人类知识的里程碑 — AlexKontorovich · 2026-09-09
- 智能体规模估算:出一个强解需要 1 千至 1 万个 agent — cephaloform · 2026-09-09
- Axios/Wired 起底：OpenAI 9 月 1 日启动求解，万名智能体 88 小时出结果 — TheZachMueller · 2026-09-09
- OpenAI 宣布 1 万 AI 智能体 88 小时攻克 Navier-Stokes 千禧年难题 — polynoamial · 2026-09-09