GLM-5.2在8×B200上的部署经济学分析
qubridInc · reddit · 2026-07-08
Qubrid 团队基于 8×B200 节点发布 GLM-5.2（约 750B 总参/40B 激活 MoE，256 专家 top-8，DSA+MLA 注意力，1M 上下文，MIT 许可）的部署配置分析。关键结论：MoE 解码在中并发下为带宽受限而非算力受限，因此 B200 相比 H200 在同 FP8 精度下每美元性能仅约 1.2 倍（贴近 HBM 带宽比，而非 2.3 倍算力比）；真正改变数字的杠杆是 NVFP4（权重字节减半，Hopper 无 FP4 张量核心）。推荐配置为 NVFP4 + 两组 TP=4 副本，相较 TP=8 可获约 2 倍吞吐。作者同时指出目前缺乏 GLM-5.2 在文档化 8×B200 配置下的完整并发扫描表。