DeepSeek提出DSpark推测解码加速高并发推理

DeepSeek提出DSpark推测解码方法，结合半自回归生成与置信度调度，将并行草稿生成与自适应验证相结合以减少浪费并提升吞吐。SGLang推理框架已完整实现该方案，支持置信度驱动和可变长度验证两种机制。此举解决了投机解码在高并发场景下性能下降的问题，显著加快了大模型推理速度。

2026-07-07 ~ 2026-07-08 · 4 条相关

• SGLang 支持 DSpark 可变长度推测解码 — ying11231 · 2026-07-07
• SGLang完整实现DeepSeek的DSpark推测解码 — ying11231 · 2026-07-07
• DSpark让投机解码高并发不再降速 — ying11231 · 2026-07-07
• DeepSeek提出DSpark推测解码，加速高并发推理 — deepseek-ai · 2026-07-08