实测 2×GB10 双机双轨跑 GLM-5.3-Flash,PR 附调优旋钮与硬件数据
EAccelerate_42 · x · 2026-09-26
开发者在真实 2× GB10 硬件(GX10 + DGX Spark 双轨组网)上为 GLM-5.3-Flash EXL3 双卡推理项目提交了实测报告 PR:
- 为此前未经真机启动即合入的 #251(stage 自动加载权重与混合前缀缓存优化)补上了真实硬件性能数据。
- 在 start.sh 中新增三个可选(opt-in)双轨/混编启动旋钮,默认值不变,并在 .env.example 中提供文档说明。
- 附带对同一对机器调优得出的三条经验发现。
项目仓库 MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks 目前约 647 star。
所属事件:双 GB10 集群调优 GLM-5.3-Flash:预填充提速 20%(5 条相关)→
「Infra」频道最新
- A100 SXM4 连接器停产,维修商被迫自建产线续命 — EAccelerate_42 · 2026-09-26
- 双机本地 AI 互联实测:Braid 实现无云端点对点通信 — Scobleizer · 2026-09-26
- 最实用的 GPU 不是 N 卡 A 卡,是 300 美元 Intel Arc A310 — TheZachMueller · 2026-09-26
- Reddit 网友把图像生成搬进浏览器,3060 上 10 秒出像素画 — Bartholomheow · 2026-09-26
- 阿里发布平头哥真武 V900:单卡 216GB,2027 年一季度开售 — shashib · 2026-09-26
- llama.cpp 分支实现无损 prompt 去重,重场景省下数万 token — Odd_Cauliflower_8004 · 2026-09-26