AI2 提出 NGU 采样法:把 RL 算力重新分配给 LLM 难题
allenai · hf · 2026-09-16
Allen AI 在 Hugging Face 发布研究,指出用于 LLM 的强化学习存在明显偏科:训练带来的提升不成比例地集中在简单任务上,难问题几乎得不到改善。
团队提出自适应采样方法 NGU(Never Give Up):动态检测哪些问题长期学不会,把计算预算从已被攻克的简单题重新分配到这些难样本上,从而提升整体性能。
这一思路对 RLVR/推理模型训练有直接参考价值:样本分配策略本身就是被忽视的性能杠杆。
所属事件:研究发现 RL 马太效应:涨分集中在简单题,NGU 采样破局(4 条相关)→
「模型」频道最新
- LightOnOCR-3 实测:免训练读懂 16 世纪手稿与古希腊文 — IgorCarron · 2026-11-02
- 同一个任务两种「质感」:RL 过拟合模型与通用智能的手感差异 — theteknosaur · 2026-11-02
- LightOnOCR-3 发布:单一模型搞定转录、版面与图表解析 — IgorCarron · 2026-11-02
- NVIDIA Kumo 家族拆解:四款表格基础模型各管一类结构化数据 — pandeyparul · 2026-11-02
- SemiAnalysis:选模型别忽视安全分类器,Meta 网络安全模型居首 — ThomasScialom · 2026-11-02
- Reddit 用户盛赞 DeepSeek V4.1 Flash 1017:快、稳、便宜到可弃闭源模型 — _bachrc · 2026-11-02