OC-GRPO 算法突破大模型推理瓶颈,数学评测提升 13.8%
ceciletamura · x · 2026-08-09
arXiv 新论文提出了 Off-Context GRPO (OC-GRPO) 算法,旨在解决大模型在处理极难问题时,因无法生成正确答案而导致强化学习信号丢失的「学习悬崖」问题。该方法在训练阶段引入特权引导,并通过重要性校正将更新引导回无引导的原始目标。实验表明,在标准数学推理基准上,该算法较原始 GRPO 平均实现了 3.9% 的绝对提升(13.8% 相对提升),且几乎无额外计算成本。
所属事件:OC-GRPO算法突破大模型推理瓶颈(2 条相关)→
「研究」频道最新
- Lean v4.35.0 自带四个已验证内核,其中之一由 Claude 写成并自证一致 — geoffreyirving · 2026-10-16
- MP-Bench:语音 Agent 群聊插话判断仅与抛硬币相当 — solyarisoftware · 2026-10-16
- 对 Qwen3-8B 做神经元级 GWAS+PheWAS,定位安全相关神经元 — Sauers_ · 2026-10-16
- 770B 参数压进 214GiB:腾讯混元量化团队拆解 Hy4 Preview 压缩术 — coolmum18 · 2026-10-16
- 200 局国际象棋实测:作者认为上下文学习目前并不奏效 — akbirthko · 2026-10-16
- LARK-Lab 提出 Mosaic:跨会话的 Agentic 强化学习新范式 — LARK-Lab · 2026-10-16