Kimi K3.1 Pro 登陆 TPU v7x：vLLM 与 Google 合作实现 day-0 支持
woosuk_k · x · 2026-11-06
vLLM 团队与 Google 合作，为 Kimi K3.1 Pro 提供发布当日的 vLLM 支持，运行在 TPU v7x 上。这是月之暗面旗舰模型首次实现 TPU 硬件的零日推理支持，也显示 Google 在积极推动第三方前沿模型适配自家 TPU 生态。
所属事件:Kimi K3.1 Pro 获谷歌 TPU 零日推理支持(2 条相关)→
「Infra」频道最新
- sshhole 漏洞分析：或危及上亿台 OpenWRT 路由，MUSL 系统首当其冲 — esrtweet · 2026-11-06
- 开源 Smarter Compact：长会话成本降 72%，被裁剪上下文可搜索召回 — goost95 · 2026-11-06
- 本地 AI 日报：TensorFold 1.2.3 解码提速 21–23%，Ripple-65B 开源预览 — AIFlow_ML · 2026-11-06
- 「数据中心泡沫要是破了，我该怎么办？」算力圈自嘲 — max_paperclips · 2026-11-06
- Inkling 2 Small 用 NVFP4 于 68 小时预训练 8.4T tokens — clarejtbirch · 2026-11-06
- 开源 RL 大规模训练细节：FP4 权重加 8 分钟长 rollout 仍稳定 — simonguozirui · 2026-11-06