DSpine 让 Qwen3.8-27B 推理提速至 94-132 tok/s,超 DFlash2 约 1.75 倍

pbaylies · x · 2026-11-09

腾讯混元发布 DSpine 投机解码方案(用于 Qwen3.8-27B),开发者 ItsmeAjayKV 已将其移植到 llama.cpp 并制作好 GGUF 量化文件(由于上游 llama.cpp 暂不支持,需克隆其 fork 使用)。

实测数据:

DSpine 相对 DFlash2 领先约 1.75 倍,关键在于它在数学和代码任务上每步验证可预测更多 token(7.3–7.6 对 5.7–5.8)。模型卡和 GitHub 仓库提供全部信息。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →