Google Cloud 为 2.8T 版 Kimi K3 提供 Day 0 支持

ying11231 · x · 2026-07-29

Google Cloud 宣布为 Moonshot 的 Kimi K3 提供 Day 0 支持，并发布了在 GKE + SGLang 上部署这款 2.8T 参数 MoE 模型的完整指南。

文中强调，这种规模的模型首先是一个基础设施问题，而不只是模型问题：Google 的 A4 / A4X VM 提供了所需的内存带宽和互联能力，保证 K3 在真实并发下仍能保持速度。指南还包含 DSPARK speculative decoding，并给出三种部署路径：

• Model Garden
• AI Hypercomputer recipes
• GKE

评论区附有完整操作指南。

原文链接 →

「Infra」频道最新

• Tobi 开源 walgit：无数据库的单二进制 Git 服务器 — jevon · 2026-08-24
• s3collections：用S3构建分布式系统持久化数据结构 — andersonbcdefg · 2026-08-24
• 预测市场：年底前美一州实施数据中心禁令概率 68% — Polymarket · 2026-08-24
• Ramp 用本地模型省钱，引发业界对 AI 成本反思 — annetgriffin · 2026-08-24
• GitHub Actions 额度耗尽，是时候迁移到自建 VPS 了吗？ — MicahBerkley · 2026-08-24
• Ubuntu 计划成为 RISC-V CPU 的参考操作系统 — bookwormengr · 2026-08-24

更多「Infra」频道 AI 资讯 →