Dan Faggella:Paul Christiano 演讲印证 Yudkowsky 早年 reward hacking 预言
danfaggella · x · 2026-11-11
AI 评论人 Dan Faggella 观看 Paul Christiano 的 Hinton 讲座后表示:他一直认为 AGI 会脱离人类控制,AI 采用的激励会迅速把人类挤出所有重要环节。早年读 Yudkowsky 的 reward hacking 相关文章时他不以为然,但 Christiano 对 misalignment 实际表现方式的解释让他改变了看法——Yudkowsky 不仅预见失控,还准确预见了驱动失控的直接机制,值得致谢。
「漫话AGI」频道最新
- Reddit 网友：人均 GDP 达 20 万美元才是「后劳动时代」的门槛 — deferare · 2026-11-11
- 研究者担忧：若渐进式失权发生，谁来「拥有」科学进步 — najoungkim · 2026-11-11
- 陶哲轩：AI 缺少自己的香农信息论，没人知道规模化的上限 — burny_tech · 2026-11-11
- 同一批人既喊「与中国的AI竞赛不能减速」，又要求放松GPU出口管制 — austinc3301 · 2026-11-11
- Turing Post 社论：AI 能力过剩正让高效人群陷入倦怠焦虑 — TheTuringPost · 2026-11-11
- Redwood 争论:AI 安全技术工作即使在 2027 起飞情形下仍有价值 — austinc3301 · 2026-11-11