DSpine 让 Qwen3.8-27B 推理提速至 94-132 tok/s,超 DFlash2 约 1.75 倍
pbaylies · x · 2026-11-09
腾讯混元发布 DSpine 投机解码方案(用于 Qwen3.8-27B),开发者 ItsmeAjayKV 已将其移植到 llama.cpp 并制作好 GGUF 量化文件(由于上游 llama.cpp 暂不支持,需克隆其 fork 使用)。
实测数据:
- 基线:28.2 tok/s
- DFlash2:50.6 tok/s
- DSpine:94–132 tok/s
DSpine 相对 DFlash2 领先约 1.75 倍,关键在于它在数学和代码任务上每步验证可预测更多 token(7.3–7.6 对 5.7–5.8)。模型卡和 GitHub 仓库提供全部信息。
「Infra」频道最新
- Nvidia 位居 SPY 第二大持仓,却是某只 SPY 内最大持仓 — dr1337 · 2026-11-09
- OpenAI CFO 表态:数据中心扩张不会放缓,将继续重视当地社区关系 — i_dg23 · 2026-11-09
- 92 万亿 token 除以 154 万日活,agent 时代的算账之争 — teortaxesTex · 2026-11-09
- 数据中心新增容量环比腰斩,Gary Marcus 力挺 Ed Zitron「AI 业在撒谎」论 — GaryMarcus · 2026-11-09
- 分析师:黄仁勋若因安全或出口违规离职,英伟达股价恐跌破155支撑 — GaryMarcus · 2026-11-09
- 德州州长候选人承诺暂停所有数据中心审批,选址风向或生变 — Traditional-Chip8339 · 2026-11-09