Qwen3.6 本地推理加速对比
ElmBark · reddit · 2026-07-17
这条帖子对比了在本地 RTX 6000 上运行 **Qwen3.6-27B** 的三种方式：基线、MTP 和 **DFlash**。 ### 结果 - 基线：**44 tok/s**，记为 1.00x - MTP：**65 tok/s**，约 **1.45x**，接受率 **71%** - DFlash：**98 tok/s**，约 **2.2x**，接受率 **30%** ### 结论 - DFlash 会一次草拟 15 个 token，因此在 **JSON、代码这类结构化、重复性强的输出** 上提速明显，文中给出的 JSON 场景达到了 **152 tok/s、3.4x**。 - 但在 **创意文本** 上，错误猜测会浪费计算，甚至可能 **低于基线**。 - MTP 只在模型内部并行猜 3 个 token，单次错误代价更小，因此更适合 **聊天或创作**。 作者的判断是：**DFlash 更适合 coding 场景，MTP 更适合聊天/创作**。