研究称 RLVR 微调致解空间坍缩,Replay 缓冲可保多样性
Manoel Ribeiro 团队(Liv Daliberti 领衔)发布 ModeBench 基准,揭示当前 RLVR 微调的系统性缺陷:训练早期遇到的答案被持续强化,形成
2026-10-15 ~ 2026-10-15 · 2 条相关
- RLVR 微调致解空间坍缩,加入 replay 缓冲可保多样性并提升 pass@8 — manoelribeiro · 2026-10-15
- ModeBench 揭示 RLVR 让 LLM 只会一种解法,Re:Max 训练法可保解法多样性 — manoelribeiro · 2026-10-15