AI 圈争论:corrigibility 是否被低估为比直接对齐价值更易行的路线
jd_pressman · x · 2026-11-14
jdpressman 在一场关于对齐研究的讨论中提出:从 2008 年零认知基础出发,研究 corrigibility(可纠正性)确实比直接攻取价值对齐更可行,也对错误更稳健——但这并非 Yudkowsky 或 MIRI 的错误。他补充回忆,当年圈内非正式讨论流行一种说法:「在这上面取得进展是狂妄自大,因为很多人试过都失败了」,而他认为这种判断并不成立。这条讨论涉及对齐研究方法论的历史评价与路线之争,属于有观点的圈内辩论。
所属事件:对齐研究者反思：价值对齐曾被误认为无法突破(3 条相关)→
「漫话AGI」频道最新
- 旧版 Claude Sonnet 谈自身意识与退役，用户不舍求挽留 — repligate · 2026-11-14
- CoRL 2026 学者谈科研品味：该不该做某个方向，无需事先共识 — abhishekunique7 · 2026-11-14
- AI 圈人士批评 Anthropic 缺乏紧迫感,没认真对待研发节奏问题 — austinc3301 · 2026-11-14
- Thariq 在 AI Engineer Code Summit 谈模型通用性:框架将不再必要 — vikvang1 · 2026-11-14
- LLM 让模糊判断可以规模化：把软件测试方法论搬进非软件系统 — jd_pressman · 2026-11-14
- jd_pressman 谈《Prime Intellect 变形记》:偏好难满足的 Caroline — jd_pressman · 2026-11-14