Kimi K3 部署估算:B200 需两节点,B300 可单节点
HarveenChadha · x · 2026-07-28
- 这条帖给出了 Kimi K3 在原始 MXFP4 权重 / MXFP8 激活 设置下的最低硬件估算。
- 估算结果大致是:
- NVIDIA B200:2 个节点,约 50% 有效利用率
- NVIDIA B300:1 个节点,约 67%
- NVIDIA Rubin VR200:1 个节点,约 67%
- AMD MI335X:1 个节点,约 67%
- AMD MI455X:1 个节点,约 45%
- 作者说明这只是权重侧利用率,KV cache 的需求会另外单独给出。
所属事件:Kimi K3 部署显存估算:B200 需双节点 B300 单节点即可(2 条相关)→
「Infra」频道最新
- 高通称 NPU 延迟优势让端侧 AI Agent 更实用 — qdrant_engine · 2026-07-28
- MLA 机制每百万 token 需 12GB KV,KDA 状态约 230MB — zephyr_z9 · 2026-07-28
- 70B 模型在 AMD R9700 上加载卡住,显存已到 30GB — Developer-Y · 2026-07-28
- Reddit 讨论本地跑 K3 的最低成本方案 — ylchao · 2026-07-28
- K3 上线一天就被拿去刷免费额度 — Mediocre-Witness-778 · 2026-07-28
- TRELLIS.2 INT8 ConvRot 已能在 AMD ROCm 上原生跑 ComfyUI — DrBearJ3w · 2026-07-28