GLM 5.3 Flash 跑分实测：双 DGX 达 881 tok/s
teortaxesTex · x · 2026-08-27
用户分享 GLM 5.3 Flash 的实测性能数据，在 2 张 DGX Station (TP=2) 配置下，未经调优即可达到 C=64 时 881 tok/s、C=1 时 232 tok/s 的推理速度。该模型支持长上下文，单机可 realistically 服务 4-8 个并发用户，并且支持视觉能力。评论指出这体现了优化 kernel 和 prediction heads 仍有巨大潜力。
所属事件:GLM-5.3 Flash 实测刷屏：性能对标 GPT-5.6、成本仅美分级(7 条相关)→
「Infra」频道最新
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Perplexity 新 embedding 模型：大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- vLLM-Omni 联手 BFL 与 NVIDIA 上线 FLUX 3 Image Klein 当日支持 — vllm_project · 2026-10-15
- NVIDIA Nemotron 3.5 Super VL 上线 Applied Compute 平台训推 — ypatil125 · 2026-10-15
- CoreWeave 债券收益率破 16%,贷款期限比客户合同长约 2 年 — tengyanAI · 2026-10-15