GLM 5.2 在DGX Spark上提速
WesEklund · x · 2026-07-15
引用内容披露了 **GLM 5.2** 的一次推理优化测试：在 **2 台 DGX Spark** 上运行后，速度已经超过 **18 tok/s**。 作者说明这次做了一个关键改动：把 **3 个最大的 attention projection** 量化到 **NVFP4**，相比原始 **FP8** 还有提升空间；同时他也表示，速度和质量两条线上后面仍有继续优化的余地。
WesEklund · x · 2026-07-15
引用内容披露了 **GLM 5.2** 的一次推理优化测试：在 **2 台 DGX Spark** 上运行后，速度已经超过 **18 tok/s**。 作者说明这次做了一个关键改动：把 **3 个最大的 attention projection** 量化到 **NVFP4**，相比原始 **FP8** 还有提升空间；同时他也表示，速度和质量两条线上后面仍有继续优化的余地。