Google Cloud 为 2.8T 版 Kimi K3 提供 Day 0 支持

ying11231 · x · 2026-07-29

Google Cloud 宣布为 Moonshot 的 Kimi K3 提供 Day 0 支持，并发布了在 GKE + SGLang 上部署这款 2.8T 参数 MoE 模型的完整指南。

文中强调，这种规模的模型首先是一个基础设施问题，而不只是模型问题：Google 的 A4 / A4X VM 提供了所需的内存带宽和互联能力，保证 K3 在真实并发下仍能保持速度。指南还包含 DSPARK speculative decoding，并给出三种部署路径：

• Model Garden
• AI Hypercomputer recipes
• GKE

评论区附有完整操作指南。

原文链接 →

「Infra」频道最新

• 中国AI基建热潮推动国产芯片公司利润暴增，MetaX实现盈利 — pstAsiatech · 2026-10-16
• Qdrant 实测 Perplexity 视觉文档嵌入:1-bit 压缩后体积仅 1/21 — jrxna · 2026-10-16
• Agent 何时需要 API 网关：Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
• 台湾拟在德州投40亿美元建AI制造园区，服务英伟达与台积电 — Polymarket · 2026-10-16
• KV 缓存远程读取竟比重算还慢:GLM-5.3 生产系统案例复盘 — MultiverseComputingCAI · 2026-10-16
• GitHub 用 AI 把 Copilot 运行时重写为 80 万行 Rust,CPU 内存降 90% — bibryam · 2026-10-16

更多「Infra」频道 AI 资讯 →