LLM 后训练中生成与训练并行致数据陈旧,系统分析如何提速蒸馏管线

burkov · x · 2026-11-17

Andriy Burkov 介绍一篇关于 on-policy distillation 推理管线效率的研究。核心问题:后训练中生成推理样本、教师打分与训练并行执行可以提升硬件利用率,但学生会用旧版本模型产出的数据训练,产生 staleness(陈旧性)问题。

关键约束与发现:

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →