研究称噪声数据破坏RLVR,高质量数据无可替代
一项新研究指出,真实噪声数据会显著破坏可验证奖励强化学习(RLVR)的训练效果,推翻了此前“模型能从错误标注中有效学习”的论断。实验表明,在噪声影响下Qwen2.5-Math-7B性能下降9%。作者强调,RLVR并非提升推理能力的捷径,高质量数据才是关键。
2026-08-04 ~ 2026-08-04 · 3 条相关
- 作者称 RLVR 不是推理能力的捷径,真正关键的还是高质量数据 — ddkang · 2026-08-04
- 真实噪声数据会击穿 RLVR:Qwen2.5-Math-7B 下降 9% — ddkang · 2026-08-04
另有 1 条近重复转述:ddkang