753B 参数 GLM-5.3 在两台 NVIDIA DGX Station 上全显存本地运行
kuchaev · x · 2026-11-20
NVIDIA RTX 官方账号展示:智谱的 GLM-5.3(7530 亿参数)可以跨两台 NVIDIA DGX Station 运行,模型完整驻留 GPU 显存,通过 vLLM 服务,对外暴露为一个统一的本地 API。这意味着超大参数量模型已可做到桌面级本地部署,无需云端。
「Infra」频道最新
- 推理算力期货交易所 Touchmark 获 300 万美元种子轮融资 — ycombinator · 2026-11-20
- 分析仪器成中国「卡脖子」新焦点,难度堪比半导体设备 — PAstynome · 2026-11-20
- PolyAI 实时对话模型 Dialog-RSN-1 上架 SageMaker JumpStart — AWS ML Blog · 2026-11-20
- 3 张退役 V100 装 $1042 主机跑 Qwen 3.6:128K 上下文快过 $5399 Mac — bittingthembits · 2026-11-20
- 英伟达新季度业绩亮眼,Rubin 芯片在 MLPerf 训练与推理首秀 — TheKanter · 2026-11-20
- 自研 CUDA 引擎 Halocline:单张 RTX 4090 跑 Qwen4,速度提升 1.4-2.6 倍 — Distinct-Pie2389 · 2026-11-20