DCOCO 投机解码校正器:并行草稿恢复块内依赖,加速至 6.6 倍

Roy Eisenstadt · hf · 2026-10-12

论文提出 DCOCO(DFlash Contextual Corrector),解决扩散式草稿投机解码的短板:草稿块内各位置预测时看不到先前草稿 token,丢失了块内依赖。DCOCO 保留多个候选 token,并行评估其与相邻草稿位置的上下文兼容性,以低成本恢复上下文信息进行 token 选择。在 4 个验证模型骨干、10 个基准上,DCOCO 在所有配置(贪婪/随机解码、含扩展推理)均取得最高平均吞吐,相比原始解码最高加速 6.6 倍;并发服务场景下(4-32 并发请求)比最强竞争方法高 6-23%,而其他顺序式校正器在高负载下甚至不如未校正的 DFlash。