DeepSeek提出DSpark推测解码,加速高并发推理

deepseek-ai · hf · 2026-07-08

DeepSeek 提出 DSpark,一种结合半自回归生成的置信度调度推测解码方法。它将并行草稿生成与自适应验证相结合,减少浪费、提升吞吐,从而在高并发场景下加快大模型推理速度。

所属事件:DeepSeek提出DSpark推测解码加速高并发推理(4 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →