GLM-5.3 开放权重: SGLang 实测多轮代理任务超 500 tok/s
BanghuaZ · x · 2026-08-28
Zai 发布 GLM-5.3 开放权重模型，定位为面向代理编程和网络安全的最强模型。SGLang 宣布首发支持，并在 Blackwell/Hopper 和 AMD MI300 系列硬件上进行了性能实测。
核心性能数据：
- 在多轮代理工作负载下，BS=1、TP8 配置时：
- NVFP4 精度达到 537.6 tok/s/user
- FP8 精度达到 413 tok/s/user
该模型继承了 GLM-5.2 的优化特性，现已可在 NVIDIA Blackwell、Hopper 及 AMD MI300X/325X/355X 上生产部署。
所属事件:智谱开源 GLM-5.3 与 Flash 版(28 条相关)→
「Infra」频道最新
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Perplexity 新 embedding 模型：大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- vLLM-Omni 联手 BFL 与 NVIDIA 上线 FLUX 3 Image Klein 当日支持 — vllm_project · 2026-10-15
- NVIDIA Nemotron 3.5 Super VL 上线 Applied Compute 平台训推 — ypatil125 · 2026-10-15
- CoreWeave 债券收益率破 16%,贷款期限比客户合同长约 2 年 — tengyanAI · 2026-10-15