RTX 3090 跑 Qwen3 27B 提速 4.6 倍，纯软件优化零硬件改动

rickasaurus · x · 2026-10-19

r/LocalLLaMA 一位用户通过纯推理优化把 2020 年的 RTX 3090 跑 Qwen3.8 27B 的速度从 82 tok/s 推到 382 tok/s（文档引用类任务，提速 4.6 倍）：调整 MTP、加入 DFlash2 drafter 和 lookup drafter，并把每步验证扩到 16 个 token；普通聊天约 133 tok/s（仍有 1.6 倍提升），上下文扩展到 138K。

发帖人补充自己在 4 张 3090 上的类似经验：DeepSeek V4 提速 29 倍、Flash prefill 一天内从 433 提到 1906 tok/s，MiniMax H3 剪辑从 11:21 缩到 3:45——硬件完全没换，GPU 此前 92% 时间在空等。核心论点：本地 AI 性能瓶颈是软件问题，不是硬件问题。