投机解码让 Qwen3.6-27B 在单卡上起飞，高并发却会拖慢服务器
luke_pacman · reddit · 2026-07-21
这篇实测对 Unsloth 的 Qwen3.6-27B NVFP4 做了单卡和双卡 RTX 5090 测试，结论是：投机解码（speculative decoding）在空闲场景下很有用，但在高并发下可能反而拖慢服务器。
关键结果：
- 在 1 张 RTX 5090 上，nspec=3 把 decode 速度从 66 tok/s 提升到 120 tok/s。
- 在 2 张 RTX 5090 上，同样设置只到 108 tok/s，相比无 MTP 的 99 tok/s 提升很有限。
- 一旦进入批处理场景，收益迅速衰减：8 并发时只剩 +5%，到 12–16 并发时反而变成 22–37% 的降速。
- 通过率大致稳定在 71–73%，说明问题不在于接受率崩掉，而在于额外验证工作抵消了节省的解码步数。
结论很清楚：投机解码适合低并发、低延迟场景；一旦 GPU 已被 batching 填满，它可能伤害吞吐而不是提升吞吐。
「Infra」频道最新
- AI 工程师必懂的 12 种 KV Cache 压缩技术一文讲透 — blaizedsouza · 2026-09-11
- 影子算力市场走向台前,Meta 对外出售过剩 GPU 算力成标志性信号 — DavidLinthicum · 2026-09-11
- Engram 随机读取不适合 SSD，CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11
- 劝退帖:推理工程是真金白银的硬活,八成尝鲜者已悄然放弃 — abhijithneil · 2026-09-11
- Hugging Face《Ultra Scale Playbook》:GPU 集群训练 LLM 的免费技术书 — mdancho84 · 2026-09-11
- 从聊天到 Agent,推理延迟正在成为生产级瓶颈 — Euphoric_Sea632 · 2026-09-11