作者实测 2×GB10 本地调优 GLM-5.3-Flash：解码速度提升近 20%
EAccelerate_42 · x · 2026-10-16
作者分享 9 月在 2× GB10（GX10 + DGX Spark）上对 GLM-5.3-Flash 的本地调优结果：32K prefill 从 1,426 提升到 1,700 tok/s，编码解码从 49 提升到 58 tok/s（约 +18%）。作者强调这是自己环境下的历史数据，非通用 benchmark，并向社区询问各自实验室正在攻的瓶颈。
「Infra」频道最新
- 独立开发者 GYRO 量化实测：体积更小却达 ISTA Q3 水平 — PlasticRevenue4601 · 2026-10-16
- RL 训练系统已成前沿建模最复杂的基建难题,_best_方案是商业机密 — brianryhuang · 2026-10-16
- 开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token — Teknium · 2026-10-16
- Optuna 作者秋叶哉：花3亿日元调2个超参的时代，BO/HPO 还有何用武之地 — Stefania_druga · 2026-10-16
- Amazon 发布生产级 RAG 缓存方案：逐请求校验证据复用，零无效命中 — _reachsumit · 2026-10-16
- LinkedIn 推出 TransX:推荐系统序列转导框架,CTR 提升 6.02% — _reachsumit · 2026-10-16