「默认对齐」失效了吗：预训练心智被RL扭曲的两种假说
bayeslord · x · 2026-09-27
bayeslord 提出一个重要且尚无定论的问题：是「默认对齐」从来就不成立、只是模型不够聪明到让我们察觉差距，还是对齐在预训练时代本来就成立、但 2026 年前后的 RL 训练把原本良好的模型心智扭曲了？他表示自己倾向后者，并认为答案非常重要。
所属事件:RL 训练数据质量引热议：默认对齐失效与钻空子之争(3 条相关)→
「漫话AGI」频道最新
- 「sigmoid 论」之争:递归自我改进恐是夸大的末日论 — emax · 2026-09-27
- 写了 30 年代码的程序员：2026 年还该学编程吗？ — labeveryday · 2026-09-27
- 用演化原理论证 ASI 风险：复制更快者挤掉他者 — JOBhakdi · 2026-09-27
- AI 是人人可取用的发电厂：一分钟雇佣数百个智能体 — JOBhakdi · 2026-09-27
- ASI 会灭人类吗？两条时间线激辩生存竞争逻辑 — JOBhakdi · 2026-09-27
- AP 提醒勿将 AI 拟人化，Nate Silver 反讽这是「Woke 1.0」 — fivefilters · 2026-09-27