GLM 5.3 全量 NVFP4 可在 4 张 B200 或 H200 上部署
TheZachMueller · x · 2026-10-06
Hugging Face 工程师 Zach Mueller 透露 GLM 5.3（完整版）以 NVFP4 量化后，使用 Marlin 内核可在 4 张 B200 上部署，非 Blackwell 硬件则需 4 张 H200。
「Infra」频道最新
- Hugging Face Datasets 5.1.0 发布:修复多 worker 流式数据集多处问题 — lmoroney · 2026-10-06
- Marvell 进军定制硅管理方案,瞄准现代计算托盘 BMC 痛点 — BenBajarin · 2026-10-06
- AI 数据中心 2035 年或需 500GW，前英官员警告能源成最大瓶颈 — ShakeelHashim · 2026-10-06
- Starlink 在轨卫星超 1.1 万颗，占全球活跃卫星约三分之二 — XFreeze · 2026-10-06
- Ben Bajarin:Agentic AI 推动数据中心 CPU 需求,关键在 Scale-Up 域设计 — BenBajarin · 2026-10-06
- llama.cpp 作者：Qwen3.8-27B 用户可换 DFlash 投机解码再提速 — victormustar · 2026-10-06