Weaver 投机解码提速 4.08 倍，作者抱怨被腾讯 DSpine 论文无视
teortaxesTex · x · 2026-11-09
推文串联了一桩投机解码方向的引用争议：作者 norpadon 不满后续论文（如腾讯的 DSpine、DSpark、DFlash2）大量互相引用却跳过自己更早发表的 Weaver 论文，自嘲手机友好的排版让论文显得「不够严肃」。
论文《Trees from Marginals: Autoregressive drafting with factorized priors》核心内容：
- 因子化草稿模型可并行预测未来 token 边际分布、效率高，但独立假设导致投机预算增大时接受率骤降
- 提出 Weaver：轻量自回归适配器，从 top-K 边际分布构建提案树，恢复条件依赖且免去全词表投影
- 针对 Gated Delta Net 层推导出免回滚的树验证算法，并在 SGLang 中实现优化 CUDA 内核
- 相比自回归解码取得 4.08 倍加速，比高度优化的 DFlash 基线高 16.3%
「研究」频道最新
- 作者自曝失误：METR 报告公开版对 AI R&D 加速判定表述不清 — ShakeelHashim · 2026-11-09
- 哲学家挑战「大脑即计算机」：意识源于脑干而非皮层 — AnnaCiaunica · 2026-11-09
- 回应 Sutton 之争：软归纳偏置加上规模化反而更强 — irinarish · 2026-11-09
- CSProfKGD 开放 24 个交互式计算机视觉可视化合集 — CSProfKGD · 2026-11-09
- 每日可视化:Hough Transform 直线检测的投票几何 — CSProfKGD · 2026-11-09
- Brian Armstrong 倡议科研像开源:每个实验一个可复现的 repo — alishbaimran_ · 2026-11-09