Inferact 发布 GLM-5.3 NVFP4 版本,显存占用降 38%

vllm_project · x · 2026-08-28

Inferact 与 vLLM 合作,在 GLM-5.3 发布首日同步推出 NVFP4 构建版本。相比 FP8 权重所需的 756GB,该版本仅需 465GB 显存,显著降低了部署门槛。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →