新推测解码方法 DCOCO:并行草稿不丢上下文,最高提速 6.6 倍
arankomatsuzaki · x · 2026-10-26
royeisenstadt 发布新推测解码方法 DCOCO(Contextual Correction of Parallel Drafts):并行草稿生成速度快,但预测 token 之间会丢失上下文,DCOCO 在不放弃并行性的前提下恢复上下文信息,相比普通解码最高可达 6.6 倍加速。
「研究」频道最新
- 新研究:更强的模型未必是更好的蒸馏老师 — pappasg69 · 2026-10-26
- EMNLP 论文:多语言 LLM 隐层「语言归属」随探测方法而变 — ABosselut · 2026-10-26
- Nature 论文:GPT-3 展现涌现式类比推理,多数测试比肩甚至超越人类 — ArtificialOther · 2026-10-26
- 4B 模型 OCRia-1 登顶文档解析:ParseBench 均分 0.87,解码快 2-4 倍 — NielsRogge · 2026-10-26
- 斯坦福博士辍学加入 OpenAI:扩散语言模型 vs 自回归路线之辩 — aaron_lou · 2026-10-26
- Hamel Husain质疑主流基准质量:Terminal-Bench等四大基准均被判Flawed — HamelHusain · 2026-10-26