Inferact 发布 GLM-5.3 NVFP4 版本,显存占用降 38%
vllm_project · x · 2026-08-28
Inferact 与 vLLM 合作,在 GLM-5.3 发布首日同步推出 NVFP4 构建版本。相比 FP8 权重所需的 756GB,该版本仅需 465GB 显存,显著降低了部署门槛。
「Infra」频道最新
- 云反思:企业盲目上云后的理性回归 — DavidLinthicum · 2026-08-29
- OpenAI Python SDK 弃用 httpx,迁移至 HTTPX2 — mitsuhiko · 2026-08-29
- a16z 推出 11 亿美元 Machine Age 基金,聚焦 AI 基建与硬件 — Polymarket · 2026-08-29
- 本地动漫图像编辑最佳配置:WebUI与模型选择指南 — Mystvearn_ · 2026-08-29
- x401 协议草案:基于 HTTP 的凭证证明要求 — csuwildcat · 2026-08-29
- GLM 5.3 开源权重亮相,DFlash 2 投机解码吞吐达 FP8 的 4.4 倍 — gan_chuang · 2026-08-29