观点交锋：RLHF 之后对齐再无根本进展，能力已远远甩开对齐
JacksonKernion · x · 2026-10-13
@tszzl 发起争论：他认为自 RLHF 以来对齐领域没有根本性进展，大部分内容仍停留在「民间理论」层面而非科学或工程学科，能力远超可解释性与对齐的预测已成真。
Jackson Kernion 回应：RLHF 之后其实已有进展，且远不止「奖励模型打分聊天环境」这一类，但实验室应该更多公开这些 RL 进展的细节。
这是一场关于对齐研究成熟度与实验室透明度的典型行业辩论。
所属事件:tszzl 称 RLHF 后对齐无根本进展，冲向 RSI 空前鲁莽(8 条相关)→
「漫话AGI」频道最新
- 三天赚 2 万美元的独立开发者自嘲:根本不知道 Jev 是什么,活照干钱照收 — aryanXmahajan · 2026-10-13
- 「逆向一切」REA 狂揽 12 万星,Agent 时代软件如何自处? — Arindam_1729 · 2026-10-13
- REA逆向项目爆火：AI能复制一切软件，还剩什么不能复制 — AlchainHust · 2026-10-13
- IMF 警告：AI 股价崩盘风险已威胁全球金融稳定 — nordicinst · 2026-10-13
- Yacine：AI 将让算力比房产更值得投资，重塑经济回报逻辑 — yacineMTB · 2026-10-13
- 数学家抱怨模型「不对齐」，x-risk 叙事反成自我实现预言 — akbirthko · 2026-10-13