vLLM 首日支持 Kimi K3.1，训练推理全链路打通
vLLM 项目在 Kimi K3.1 发布当日（Day-0）宣布提供全面支持，覆盖推理服务与强化学习训练全链路，是本轮事件的核心。官方连发多条帖子，从生态、架构到性能数据对 K3.1 做了介绍。
已确认
- vLLM 与 inferact 合作，推出 vLLM + Megatron 组合方案，为 Kimi K3.1 提供 Day-0 强化学习支持，工作覆盖 Kimi Delta Attention 的训练-推理一致性，并支持长程 Agent 服务场景。
- 硬件支持范围广泛：NVIDIA GPU（含下一代 Vera Rubin）、AMD Instinct MI355X、Google Cloud TPU，以及 Zhenwu 810 等平台。
- 架构方面，K3.1 采用 DSA 稀疏注意力（每个 query 最多选取 2048 个 key 位置）结合循环式 Kimi Delta Attention（KDA）的混合设计；一个 packed cache 同时容纳 MLA latents、indexer keys 与 KDA 状态。
- 性能数据（vLLM 官方转述 Kimi 内部基准）：K3.1 Pro 在 Kimi Code Bench 3.0 Long-horizon 上得分 61.2%，较 K3 的 55.95% 提升超过 5 个百分点；该基准考察多步执行、工具使用与端到端工程能力。
为什么重要
- Day-0 支持意味着新模型发布即可在主流开源推理栈上部署，缩短从模型发布到实际可用的时间窗口。
- 训练-推理一致性（尤其针对 KDA）打通后，RL 训练与在线服务可以复用同一套基础设施，对长程 Agent 应用尤具价值。
- 61.2% 的长程编码成绩若成立，显示 K3.1 在多步工程任务上的代际提升，但该数据来自 Kimi 内部基准，独立验证尚未出现。
2026-11-05 ~ 2026-11-05 · 5 条相关
一手来源
- vLLM 首日支持 Kimi K3.1:长程编码跑分 61.2%,训练推理栈打通 — vllm_project ·
- vLLM 首日支持 Kimi K3.1：覆盖 NVIDIA、AMD、TPU 多平台 — vllm_project ·
- Kimi K3.1 混合 DSA 与 KDA，单 packed cache 承载全部状态 — vllm_project ·
- 【源头】Kimi K3.1 混合 DSA 与 KDA，单 packed cache 承载全部状态 — vllm_project · 2026-11-05
- Kimi K3.1 Pro 长程编码基准 61.2%，较 K3 提升超 5 个百分点 — vllm_project · 2026-11-05
- vLLM 携手 Megatron 支持 Kimi K3.1：Day-0 RL 与长程 Agent 服务 — vllm_project · 2026-11-05
- 【源头】vLLM 首日支持 Kimi K3.1：覆盖 NVIDIA、AMD、TPU 多平台 — vllm_project · 2026-11-05
- 【源头】vLLM 首日支持 Kimi K3.1:长程编码跑分 61.2%,训练推理栈打通 — vllm_project · 2026-11-05