强化学习采样组大小有讲究:K=4快速过滤简单题省算力
gowthami_s · x · 2026-10-28
针对近期一篇论文的解读线程:在组采样(group sampling)式 RL 训练中,K=32 时只要 32 个回答里错 1 个,简单 prompt 就会留在批次里,导致批次被「基本已解决」的题目占满;K=4 则能快速筛掉简单 prompt,把算力留给难题——本质上就是主动学习(active learning)的思想。
所属事件:组采样强化学习技巧:小 K 过滤简单题,全错组持续采样(3 条相关)→
「研究」频道最新
- Eric Topol 分享免疫组学论文:多组学数据+AI 预测免疫健康衰老 — EricTopol · 2026-10-28
- Google Research 提出睡眠框架:让 LLM 持续学习、知识保留达 1000 万 token — behrouz_ali · 2026-10-28
- CATCH 对抗训练:仅约 200 例样本让 LLM 学会可迁移的诚实行为 — irinarish · 2026-10-28
- Andrew Critch 公开个人置信度:P≠NP 仅 80%,黎曼假设 60% — AndrewCritchPhD · 2026-10-28
- 印度 AI 疫苗创企 PopVax 获 Vitalik 2000 万美元资助,广谱新冠疫苗进入人体试验 — chaitjo · 2026-10-28
- Cognition 发布 FrontierCode 2.0:用模糊需求考 AI 的工程判断力 — DevinAI · 2026-10-28