594B 开源模型跑进 4 台 DGX Spark,NVIDIA 随即开卖四机环套件
AIFlow_ML · x · 2026-11-17
本期《本地 AI 日报》(2026-11-17)汇总了 DGX Spark 生态的几件实测动态:
- Inkling 2 Small(594B 总参/17B 激活,Apache-2.0)在 4 台 DGX Spark 上跑通:两天内出现两套独立的四机方案,包括 Niklas 将 0xSero 的 EXL3 引擎移植到 Spark 的 GB 互联、采用无交换机 ring 拓扑,每台约 60 tok/s。一天后 NVIDIA 便把同样的四机组合作为套件出售。
- Hibana 推理引擎:面向 DGX Spark 的快速推理引擎,仅在 3-bit 模式下即有 2 倍提速。
- Thinking budget 实测:给 Qwen3.8-27B 加 "thinking cap" 后 GPQA Diamond 成绩从 115(无 cap)提升到 160-172(视硬件而定),在 Mac Studio M5 Ultra、DGX Spark 与 RTX 5090 三种硬件上验证。
文中所有数字均标注了来源类型(MEASURED-BY-SOURCE 实测 / VENDOR-CLAIM 厂商宣称)。
「Infra」频道最新
- GPU 排障直播:PyTorch 重编译尖峰与集群级性能剖析案例 — cfregly · 2026-11-17
- 美国数据中心耗电已超中等国家,电力成 AI 新瓶颈? — Dense_Primary629 · 2026-11-17
- Together 与 Ollama 详解:prefix caching 如何让长 Agent 会话不越跑越慢 — togethercompute · 2026-11-17
- 微软 Outlook、机场、美国大银行接连宕机 — robleclerc · 2026-11-17
- Nvidia Ian Buck 回顾 CUDA 二十年:从 2006 年单一工具到全工作负载库 — firstadopter · 2026-11-17
- HexAnima 分支实现骁龙 8 Gen 2 NPU 离线生图,约 7 秒一张免 root — ilinkys · 2026-11-17