DeepSeek DSpark推测解码移植至Mac,无损加速
A-Rahim · reddit · 2026-07-07
开发者将 DeepSeek 为 DeepSeek-V4 构建的推测解码 drafter DSpark 移植到 MLX,使其能在 Mac 上原生运行,并提供 OpenAI 兼容服务与基准测试。DSpark 属 EAGLE 式 drafter,主模型仍会验证每个草拟 token,因此输出与正常解码完全一致(贪婪模式下逐字节相同,温度模式为经验证精确采样)。目前在 Qwen3 4B/8B/14B 与 Gemma-4 12B 上可用。 在 M4 Pro、8 位指令目标上实测,单用户约 1.4–1.6 倍加速,代码/数学场景配合 Gemma 最高约 2 倍。作者指出 Mac 上达不到常见引用的 2–4 倍,而原论文也未曾如此宣称。