研究者直言:对齐基本问题已明确,却几乎无人着手直接解决
jd_pressman · x · 2026-10-16
AI 研究者 JD Pressman 在讨论中表示:目前「我们其实已经知道基本问题是什么,但似乎没人在尝试直接解决它们,更糟的是也没人特别在意」。他呼吁看到针对 RL 过程中各种形式的 Goodhart 效应的实际干预手段。对话对象则表示,除了此前的涌现性失配(emergent misalignment)结果外想不到其他例子,自己仅存的一点乐观来自反面证据的缓慢积累。
「漫话AGI」频道最新
- nickcammarata 称万亿参数模型多数神经元可读,引发可解释性激辩 — burny_tech · 2026-10-16
- AI 圈预测:2027 年 11 月前后将迎递归自我改进拐点 — imjustnewatai · 2026-10-16
- 31 条科技曲线可视化：Kurzweil 千美元买人脑算力预言差了 400 倍 — cpaik · 2026-10-16
- DeepMind 论文:一价拍卖分配 AI Agent 市场提示,效率可达最优的 1-1/e² — dair_ai · 2026-10-16
- Garrison Lovely 出书《Obsolete》:AGI 既非不可能也非必然 — GarrisonLovely · 2026-10-16
- Majmudar 澄清：一年内或解决可控性而非全部对齐，1-2 年更现实 — MajmudarAdam · 2026-10-16