腾讯 DSpine 草稿模型把 Qwen3.8-27B 投机解码提速至 3 倍
karminski3 · x · 2026-11-10
腾讯优图在 HuggingFace 放出 Qwen3.8-27B-DSpine-b16 草稿模型,将投机解码加速从传统 MTP 的约 1.6 倍提升到 3 倍,官方测试 805 tps(8 并发);从使用 FlashAttention 3 推断应为 Hopper 架构 GPU。
所属事件:腾讯 DSpine 投机解码让 Qwen3.8-27B 推理提速 3 倍(3 条相关)→
「Infra」频道最新
- GB300 租金跌至 12-15 美元/小时，推理算力过剩但需求跟不上 — teodorio · 2026-11-10
- Meta FAIR 提出 e-means：1/10 轮次超越 k-means，GPU 提速最高 45 倍 — burny_tech · 2026-11-10
- 传英伟达砍单台积电，AMD 与 ASIC 阵营有望抢接产能 — zephyr_z9 · 2026-11-10
- 实测劝退:RTX 5090 跑本地 LLM,电费都赚不回 1 美元 API 费 — PurzBeats · 2026-11-10
- CoreWeave 年底前需再上线约 350MW，去年就栽在交付延期 — tengyanAI · 2026-11-10
- 孟菲斯数据中心今年贡献 5400 万美元税收，市府讨论暂停令 — pickover · 2026-11-10