GLM-5.2在GB10上的吞吐
ciprianveg · reddit · 2026-07-15
有人实测 **GLM-5.2-Int4-Int8** 跑在 **8× GB10** 上的性能： - prefill 约 **1,200 t/s** - 平均 decode 约 **33–54 t/s**（按通用/编码结构化任务） - 还提到可以同时再跑一个 **Mimo 2.5**，用于图像/音频输入 - 两个任务都使用 **tp 8** 这条信息更像是模型在特定硬件上的部署/推理表现，而不是模型本身的新发布。