新推测解码方法 DCOCO:并行草稿不丢上下文,最高提速 6.6 倍

arankomatsuzaki · x · 2026-10-26

royeisenstadt 发布新推测解码方法 DCOCO(Contextual Correction of Parallel Drafts):并行草稿生成速度快,但预测 token 之间会丢失上下文,DCOCO 在不放弃并行性的前提下恢复上下文信息,相比普通解码最高可达 6.6 倍加速。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →