DUET 论文入选 NeurIPS:RL 训练提速 2.51 倍超越 GRPO
xuandongzhao · x · 2026-10-02
NeurIPS 2026 接收论文 DUET(DUal-controlled tokEn allocaTion)开源,提出在固定训练 token 预算下,用单一拉格朗日乘子联合分配「prompt 数量(rollout 次数)」与「每条 rollout 的最大 token 上限」。在 Qwen3-1.7B-Base + MATH 训练上:一半 rollout 预算即可在 MATH-500、GSM8K、AIME-2024、HumanEval、GPQA-Diamond 五个基准上追平或超过全预算 GRPO,wall-clock 提速 2.51×,且在四分之一/一半/全预算各点都占据预算-精度前沿顶部。项目已升级至 vLLM V1(0.16)。
「Infra」频道最新
- Hugging Face 发布 State of Local AI 2026:单卡游戏 GPU 已达年初顶级水平 — Scobleizer · 2026-10-03
- 爆料称 DeepSeek V4.1 Pro 约 2T 参数,从零稀疏训练无不稳定 — teortaxesTex · 2026-10-03
- Stas Bekman 的集群评估 skill 补充 AWS 集群实测演示 — StasBekman · 2026-10-03
- 64GB 内存+16G 显存跑 180B Qwen3.8-Flash-Next,Strata 实测 40-50 t/s — danamir_ · 2026-10-03
- NVIDIA Spark 涨价 30% 至 7000 美元,本地 AI 玩家求助替代方案 — Apprehensive_Side219 · 2026-10-03
- Micron 供应合同锁到 2030 年:每美元留下约 80 美分 — YvesMulkers · 2026-10-03