jd_pressman：对齐基础问题众所周知，却几乎没人在认真解决 Goodhart
jd_pressman · x · 2026-10-16
jdpressman 在与 enormochungus、koreindian 的讨论中表态：对齐领域「我们其实已经知道基本问题是什么，但没人在直接解决它们，更糟的是没人真正在意」。他想看到针对 RL 过程中各种 Goodhart 形态的实用干预手段。enormochungus 则较悲观，认为除以往的 emergent misalignment 结果外，他的乐观（「顶针那么大的一大部分」）只能来自零散反证证据的缓慢积累。
所属事件:AI 研究者激辩：游戏能否探查内在动机与 Goodhart 治理(4 条相关)→
「漫话AGI」频道最新
- Yudkowsky 再泼冷水：可解释性进展远不足以支撑对齐 — repligate · 2026-10-16
- AI 是否在侵蚀传统家庭价值观？KOL 发帖引热议 — PierceLilholt · 2026-10-16
- Aaron Levie：AI Agent 带钱包让微支付首次成为好生意 — kleffew94 · 2026-10-16
- Manifund 与 Mox 推出 Surplus 孵化器：10 万美元孵化 AI 公益创业 — NathanpmYoung · 2026-10-16
- AI 全面替代后,你愿接受中等偏下生活水平换全家永不工作吗 — simmol · 2026-10-16
- Yacine:做前沿 AI 不必住在旧金山,回应不做 SF 决定的焦虑 — yacineMTB · 2026-10-16