双 GB10 集群调优 GLM-5.3-Flash：预填充提速 20%

开发者 geekyabhijit 在真实双 GB10 硬件上完成了对 MiaAI-Lab GLM-5.3-Flash-EXL3-2x-DGX-Sparks 套件的调优：集群由 ASUS GX10 与 DGX Spark 组成，通过双 ConnectX-7 轨道（dual-rail）互联。调优结果在不改变权重与输出质量的前提下，将 32k prefill 吞吐从 1,426 tok/s 提升至 1,700 tok/s，约提升 20%。

已确认

• 32k prefill 从 1,426 提到 1,700 tok/s，提升约 20%，权重与输出质量保持不变
• 调优过程整理为开源 recipe 仓库，供他人复现
• 提交 PR #276：为此前未经真机启动即合入的 #251（stage 自动加载权重与混合前缀缓存等）补充双轨启动参数与实测硬件数据
• 为项目补充了若干调优旋钮（tuning knobs）

为什么重要

• #251 此前缺乏真机验证即合入，该 PR 提供了真实双机双轨环境下的启动参数与数据，降低了后续使用者踩坑的成本
• 双 GB10 桌面级集群跑大模型的实测数据点较为稀缺，此番开源 recipe 与硬件数据对同类小型集群用户有直接参考价值

2026-09-26 ~ 2026-09-26 · 5 条相关

• 双 GB10 集群调优 GLM-5.3-Flash:32k 预填充提速 20% — EAccelerate_42 · 2026-09-26
• 【源头】双 GB10 集群调优 GLM-5.3-Flash:32k 预填充提速 20% — EAccelerate_42 · 2026-09-26
• GLM-5.3-Flash 双 GB10 实测报告 PR:补双轨启动参数 — EAccelerate_42 · 2026-09-26
• 实测调优:双 GB10 双轨互联跑 GLM-5.3-Flash,吞吐提升约 20% — EAccelerate_42 · 2026-09-26
• 【源头】实测 2×GB10 双机双轨跑 GLM-5.3-Flash,PR 附调优旋钮与硬件数据 — EAccelerate_42 · 2026-09-26