北大团队 LongR:密集效用奖励强化学习突破长上下文推理
PKU · hf · 2026-10-14
北大、上交、清华等机构提出 LongR 框架,针对长上下文推理中稀疏结果奖励信号不足的问题,设计动态 "Think-and-Read" 机制(推理与文档查阅交替进行),并以基于相对信息增益的上下文密度奖励量化文档效用,无需证据标注。
要点:
- 在 LongBench v2 上提升超过 9%,在 RULER 和 InfiniteBench 上也有一致改进
- 可兼容 DAPO、GSPO 等多种 RL 算法
- 深入分析了推理链长度对效率的影响及模型对干扰文档的鲁棒性
「研究」频道最新
- 研究员:根本不存在「AI 药物」,别再拿假前提辩论 — PatrickKidger · 2026-10-14
- 反直觉:推理力度拉满反而更差,拒绝率飙升拖垮评测成绩 — _lewtun · 2026-10-14
- 整数乘法仓库变身 Agent 基准:协作反而不如各干各的 — iskander · 2026-10-14
- Alec Helbling:新方法可视为「循环自条件化」 — alec_helbling · 2026-10-14
- MIT 研究者用爱犬 fMRI 数据做出可交互的大脑数字孪生 — Sad_Measurement_7502 · 2026-10-14
- Linux 内核 CVE 周修复量从 600 骤降至 1,AI 扫码或逼近清零 — MarkoMarjamaa · 2026-10-14