vLLM 为 2.8 万亿参数 Kimi K3 提供 day-0 支持

Moonshot 发布了拥有 2.8 万亿参数和 100 万上下文窗口的 MoE 模型 Kimi K3。对此,推理框架 vLLM 宣布已为该模型提供 day-0 部署支持。只要模型权重公开,用户即可在 vLLM 技术栈上立即实现 Kimi K3 的高效推理与上线部署。

2026-07-27 ~ 2026-07-28 · 2 条相关