DeepSeek提出DSpark推测解码,加速高并发推理
deepseek-ai · hf · 2026-07-08
DeepSeek 提出 DSpark,一种结合半自回归生成的置信度调度推测解码方法。它将并行草稿生成与自适应验证相结合,减少浪费、提升吞吐,从而在高并发场景下加快大模型推理速度。
所属事件:DeepSeek提出DSpark推测解码加速高并发推理(4 条相关)→
「研究」频道最新
- DONIC 双手机器人追踪成功率 86.79%,远超此前 SOTA 的 9.43% — liuziwei7 · 2026-10-27
- 为什么没有更多 10M 上下文模型?研究者抛出注意力机制疑问 — agarwl_ · 2026-10-27
- 研究者吐槽:论文里 PSNR 低于 15dB 基本是用错了指标 — kwangmoo_yi · 2026-10-27
- Ortet 首批医疗评测:34 个开源模型 50 项任务,通用排名不够用 — thegautamkamath · 2026-10-27
- Scaling 拟合之争:Uncheatable 计入输出头 FLOPs,Paloma 剔除,最小档差距高达 65% — dlwh · 2026-10-27
- Marin 作者详解 scaling law 公式:难点在小模型阶段估渐近线 — dlwh · 2026-10-27