双 DGX Spark 本地跑 GLM 5.3 flash:新配方解码提速 50-90%
swiebertjee · reddit · 2026-10-05
Reddit 用户详细对比了双 DGX Spark 上 GLM 5.3 flash(NVFP4)新推理配方与 DeepSeek v4.0 flash 的表现:
- 新配方带来 50-90% 解码提速,多代理并行不再退化,还修复了此前广为抱怨的重复 bug
- 质量 B2 各项均值提升 3-13%,prose +13%、bulk SQL INSERT +10%;预填充下降 10-21% 是唯一代价
- 解码速度反超 DeepSeek v4.0 flash,且后者升级版 v4.1 无法在双 Spark 上运行
- 实测 40 分钟 soak:503 请求 0 错误,KV 池内存占用降 72%
- 作者用于技术编码、运维和视觉任务数日,评价接近 Claude Opus 4.8 水平,认为值得升级
配方开源在 GitHub(GLM-5.3-Flash-NVFP4-DFlash2-2x-DGX-Spark),是本地部署端侧推理的实证参考。
「Infra」频道最新
- DeepMind 研究员估算:全球有效算力每年增长至少 10 倍 — 141_1337 · 2026-11-20
- GPU 短缺之辩:真有 AI 需求的公司仍在被算力饿死 — matt_slotnick · 2026-11-20
- 微软 Bing Web IQ 全面开放:Auto 编排多源检索,为 Agent 提供实时世界知识 — dejanseo · 2026-11-20
- exe.dev 发布 Rex 集成:远程 VM 正成为 agent 时代的主工作台 — davidcrawshaw · 2026-11-20
- 业内人士判断:CUDA 与 ISA 都不再是护城河,芯片创新潮将至 — IgorCarron · 2026-11-20
- MIT 与 NVIDIA 推出 QDA:用智能体自动设计量化方案,64 GPU 小时超越最强人工配方 — omarsar0 · 2026-11-20