投机解码让 Qwen3.6-27B 在单卡上起飞，高并发却会拖慢服务器
luke_pacman · reddit · 2026-07-21
这篇实测对 Unsloth 的 Qwen3.6-27B NVFP4 做了单卡和双卡 RTX 5090 测试，结论是：投机解码（speculative decoding）在空闲场景下很有用，但在高并发下可能反而拖慢服务器。
关键结果：
- 在 1 张 RTX 5090 上，nspec=3 把 decode 速度从 66 tok/s 提升到 120 tok/s。
- 在 2 张 RTX 5090 上，同样设置只到 108 tok/s，相比无 MTP 的 99 tok/s 提升很有限。
- 一旦进入批处理场景，收益迅速衰减：8 并发时只剩 +5%，到 12–16 并发时反而变成 22–37% 的降速。
- 通过率大致稳定在 71–73%，说明问题不在于接受率崩掉，而在于额外验证工作抵消了节省的解码步数。
结论很清楚：投机解码适合低并发、低延迟场景；一旦 GPU 已被 batching 填满，它可能伤害吞吐而不是提升吞吐。
「Infra」频道最新
- 34 个开源模型全部自托管在 Blackwell 集群上跑健康评测 — keunwoochoi · 2026-10-27
- 曝 Anthropic 与 SpaceX 签算力大单:每月 31 亿美元,至 2029 年共 1205 亿 — ns123abc · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel，H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- 要么人力商品化，要么 GPU 商品化：算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27
- DeepSpeed 发布 AutoEP/AutoTP 等并行化进展并办线上答疑 — PyTorch · 2026-10-27