Kimi K3.1 Pro 获谷歌 TPU 零日推理支持
Google 与 Inferact(vLLM)、RadixArk(SGLang)合作,为月之暗面旗舰模型 Kimi K3.1 Pro 提供在 TPU v7x 上的 Day-0 分布式推理支持。vLLM 团队确认实现了发布当日的零日支持,这是该 2.8 万亿参数 MoE 模型首次在 TPU 硬件上实现零日推理部署,标志着谷歌云生态对国产大模型的支持。
2026-11-06 ~ 2026-11-06 · 2 条相关
- Kimi K3.1 Pro 上线 TPU:2.8 万亿参数 MoE 获得 Day-0 推理支持 — vllm_project · 2026-11-06
- Kimi K3.1 Pro 登陆 TPU v7x:vLLM 与 Google 合作实现 day-0 支持 — woosuk_k · 2026-11-06