vLLM 发布 DSpark:Kimi K3.1 Pro 接受长度提升 30%,draft KV 有界

AccBalanced · x · 2026-11-19

vLLM 官方宣布与 Inferact 及 RedHat AI Speculators 团队联合开发的 DSpark,面向 Kimi K3.1 Pro 的推测解码 draft 模型:

主帖以「研究者又发明新 attention 机制折磨 infra 工程师」玩梗转发,实质内容在被引用的 vLLM 公告里。

所属事件:vLLM 联合发布 DSpark 草稿模型,加速 Kimi K3.1 Pro 推理(3 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →