新RL框架Exploration-Distillation:让LLM训练敢于激进探索

micahgoldblum · x · 2026-10-13

研究者 Micah Goldblum 发布 Exploration-Distillation 强化学习框架,目标是解锁 LLM 在 RL 阶段的激进探索能力,性能大幅超越 DAPO 等标准算法。

其核心观察:RLVR 中的 LLM 已经过预训练,奖励只监督模型知识的极小部分——模型哪怕忘掉大半维基百科也能拿到高奖励,因此现有算法难以让模型在 RL 中真正发现新知识。该框架正是针对这一矛盾设计。

所属事件:NYU团队推出ExpDis:解耦探索与优化,性能超DAPO(6 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →