MagicBeanStalk 论文：88% RLVR 数据陷入零优势陷阱，递归合成提分 8.6
Lianhuiq · x · 2026-10-15
arXiv 论文（Ximing Lu、Aviral Kumar、Jan Kautz、Yejin Choi、David Acuna）研究如何让合成数据真正对 RLVR 有用。
- 核心发现——零优势陷阱：数据集的有效性取决于问题、目标策略与 rollout 预算的组合。对主流开源数学 RLVR 语料的分析显示，固定策略和预算下约 88% 的题目要么每次 rollout 都做对、要么全做错，组内相对优势为 0，不产生学习信号；而过滤只能丢弃难题，无法利用它们。
- 有效合成题的原则：难题应指定要合成的能力（一个 worked example 即可把均值正确率从 0% 提到 46.9%）；新题需实质保留推理操作与组合（非改写）；难度要针对策略与预算校准，使部分 rollout 成功、部分失败。
- 方法：MagicBeanStalk 采用自顶向下分解 + 自底向上递归合成，把种子难题扩成策略与预算校准的新题族。
- 效果：8 个数学 benchmark 上，gpt-oss-120b 平均 +8.6 分，DeepSeek v4 Flash +5.4 分。
所属事件:研究称 88% RLVR 数据陷入零优势陷阱，递归合成可破解(2 条相关)→
「研究」频道最新
- 范畴论视角统一数百种 PEFT 方法,LoRA 秩上限等结论被证明 — aryaman2020 · 2026-10-15
- ActionOPD 动作级在线蒸馏训练 Qwen3 智能体,跨域基准提升 3.3-6.9 点 — nics-efc · 2026-10-15
- 地平线发布 VITAL：单步去噪达 90.8 PDMS，推理提速 3.29 倍 — HorizonRobotics · 2026-10-15
- KV4-RL 用 INT4 KV 量化加速 RLVR rollout,提速 1.8 倍精度不掉 — kaist-ai · 2026-10-15
- ASU 发布 τ-Emotion-Bench:用户情绪波动暴露 LLM 智能体交互脆弱性 — Arizona-State-University · 2026-10-15
- 华为提出 SkillMarker:给 Agent 技能加水印,1.5K token 即可溯源 — Alan Tang · 2026-10-15