RL 已大量应用而对齐未见恶化,是时候更新这个先验了
repligate · x · 2026-11-02
转发的观点：社区已经大规模应用了强化学习，但从实际观察来看对齐状况并没有因此明显恶化——到了该根据这一事实更新判断的时候了。这是对「RLHF 会让模型对齐变差」这一常见担忧的反驳，作者在与 slatestarcodex、repligate 的讨论中提出。
「漫话AGI」频道最新
- 用 $20 AI 订阅修好手机不出门修,研究员质疑 AI 或压低 GDP — stanislavfort · 2026-11-02
- 热传「美颜 App 偷传照片到杭州」故事细节可疑,或为 AI 编写 — bingxu_ · 2026-11-02
- 当 AI 让专业知识过剩，信任成最稀缺资产 — geoffwolfe · 2026-11-02
- Aaron Levie：工作描述正在改写，人人将管理一支 Agent 团队 — inductionheads · 2026-11-02
- AGI 要嵌入组织协作才可能带来无限经济影响 — JMateosGarcia · 2026-11-02
- DeepMind 文章：AGI 落地的瓶颈是协作而非能力 — JMateosGarcia · 2026-11-02