NVIDIA 提出 Draft Co-Training,加速大规模长上下文 RL 后训练推理
nvidia · hf · 2026-09-09
NVIDIA 发布论文 Online Draft Co-Training for Speculative Decoding,针对大规模长上下文 RL 后训练的推理加速。
技术要点:
- 在线协同训练 draft 模型,加速投机解码(speculative decoding)
- 扩展上下文并行注意力(context-parallel attention)
- 引入跨阶段特征传输(cross-stage feature transport)
解决了 RL 后训练中生成吞吐瓶颈,在长上下文场景下尤为重要。
「Infra」频道最新
- Anthropic 10 月 ARR 疑似暴涨，年底千亿美元 ARR 有望 — GavinSBaker · 2026-10-26
- 降价即放量：Anthropic 10 月 token 用量暴涨，年底 ARR 或破 1000 亿美元 — GavinSBaker · 2026-10-26
- Alex Banks：电力是 GPU 上线瓶颈，真正的风险是需求先降温 — thealexbanks · 2026-10-26
- 分析师：蚂蚁是当前工作负载最具弹性可置换的模型厂商 — BenBajarin · 2026-10-26
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26