ACL 2026论文提出奖励模型自我纠错新方法

一篇入选ACL 2026口头报告的论文REFORM提出了一种让奖励模型自我纠错的新方法。研究指出，基于有限偏好数据训练的奖励模型必然存在盲点，从而引发奖励黑客问题。该方法通过奖励引导的对抗性失败发现机制，构建出更加鲁棒的奖励模型。

2026-07-05 ~ 2026-07-07 · 2 条相关