腾讯发布 Qwen3.8-27B 推测解码草稿模型 DSpine,接受长度全面超越 DFlash2
teortaxesTex · x · 2026-11-08
腾讯在 Hugging Face 开源了针对 Qwen3.8-27B 的推测解码草稿模型 DSpine(block size 16,五层草稿模型,8192 token 滑动窗口),号称在各类基准上全面超越官方 DFlash2。
- 原理:DSpine 并行生成草稿 token,每层将预测的前驱特征传递给相邻位置,使因果依赖贯穿网络深度。
- 通用基准:接受长度在 GSM8K 上达 7.20(DFlash2 为 5.69)、MATH-500 达 6.49、MBPP 达 6.14,温度采样下同样领先。
- Agent 基准:在 WorkBuddy Code/Web/Office、SWE-bench Pro、τ²-bench 上接受长度普遍提升 0.51 以上,Agent 端到端吞吐相对自回归解码有明显加速。
- 运行环境:SGLang 0.5.22、BF16、FlashAttention 3,启用动态验证与 ReplaySSM。
该模型为 Apache-2.0 许可,附带两篇 arXiv 论文。
所属事件:腾讯开源 DSpine 投机解码草稿模型,27B 推理提速 3 倍(4 条相关)→
「Infra」频道最新
- 等电工不耐烦,直接从 Lambda 抓了几张 B200 当消遣 — TheZachMueller · 2026-11-09
- 谷歌推两款新 TPU 剑指英伟达,成本 reportedly 低约 30% — CurieuxExplorer · 2026-11-09
- NVIDIA 联手 Rebellions 与 SK 电讯打造韩国主权 AI 基础设施 — pstAsiatech · 2026-11-09
- DHH:Omarchy 4.6 让本地 AI 开箱即用，AMD 495 跑 Flash Next 表现惊艳 — AnushElangovan · 2026-11-09
- 谷歌发布第八代 TPU 四套系统,同步开源 TorchTPU 与 TPU Sync — rakyll · 2026-11-09
- 华为诺亚提出 LowRAM:注意力头内摊销 Value 实现 4 倍 KV 压缩 — Teresa Delgado · 2026-11-09