vLLM 发布 Kimi K3.1 Pro 投机解码草稿模型,接受长度最高提升 30%

vllm_project · x · 2026-11-18

vLLM 项目宣布与 Inferact、Red Hat AI Speculators 团队联合开发的 DSpark 草稿模型(用于 Kimi K3.1 Pro 投机解码)正式版发布:

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →