Kimi K3规模超出B200承载
airesearch12 · x · 2026-07-17
转述的 SemiAnalysis 观点称，Kimi K3 2.8T 规模大到连单台 NVIDIA DGX B200 都装不下，即使是 FP4 也不行。
要部署它，需要 GB300 NVL72、B300 或 MI355X 这类系统，因为每块 GPU 需要 288GB 显存。若想在 B200 上做优化，可能要把多个节点绑在一起并使用 WideEP；但 B200 的节点间带宽只有 400 Gbit/s，而 NVL72 的节点间带宽高出 18 倍。
所属事件:Kimi K3 引爆中国前沿模型再评估(94 条相关)→
「Infra」频道最新
- 从聊天到 Agent,推理延迟正在成为生产级瓶颈 — Euphoric_Sea632 · 2026-09-11
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen，Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11