RTX 6000 工作站实测 GLM 5.3 Flash，调优后吞吐升至 242 tok/s

开发者在 4 张功率锁定 450W 的 RTX 6000 Workstation 上运行 GLM 5.3 Flash 的 NVFP4 量化版本。TheZach Mueller 分享了逐阶段调优过程，吞吐从 162 tok/s 提升至 242 tok/s；对比图还显示 V2 版本较 V1 吞吐大幅提升，为 workstation 级部署提供了参考。

2026-10-28 ~ 2026-10-28 · 2 条相关

• GLM 5.3 Flash NVFP4 实测:4 卡 6000 WS 限 450W,V2 吞吐较 V1 大幅提升 — TheZachMueller · 2026-10-28
• RTX 6000 工作站跑 GLM 5.3 Flash NVFP4,逐项优化将吞吐从 162 拉到 242 tok/s — TheZachMueller · 2026-10-28