MaD-RL 作者补充:只最大化奖励无法指定目标输出混合比例
nagpalchirag · x · 2026-09-24
作者在同一论文线程中补充解释:GRPO 式 RL 已知会把概率集中到特定模式,仅最大化奖励无法提供按 prompt 精确控制的分布能力;只优化正确性的 RL 反而会损害响应多样性。熵奖励虽能恢复分布散布,但无法指定任意目标混合比例——这正是 MaD-RL 要解决的问题。
所属事件:Meta 团队发布 MaD-RL:用强化学习校准 LLM 输出分布(2 条相关)→
「研究」频道最新
- ARLoop 开源循环 Transformer 全套配方,1.2B 胜过 Huginn-3.5B — Lianhuiq · 2026-11-11
- UniPath 被 NeurIPS 2026 接收:单模型自适应协调理解与生成 — jindong_wang92 · 2026-11-11
- Scale AI 1200+ 次训练对比 PPO 与 GRPO:小 batch 用 critic,大 batch 可省掉 — heghbalz · 2026-11-11
- 开源进程推进个性化胰腺癌疫苗:34 岁患者数据全公开征集专家意见 — jajoosam · 2026-11-11
- Ross Girshick 发布 CVPR 演讲幻灯片:复盘十五年目标检测史并衔接 LLM — CatAstro_Piyush · 2026-11-11
- KAIST 发现记忆会让 Agent 翻车,WikiTrace 用证据链接降 10.7 分差距 — dair_ai · 2026-11-11