单用户也要并发:Mac 内存带宽强但批处理算力不敌 DGX Spark

QuixiAI · x · 2026-10-29

一条关于本地大模型硬件选型的技术讨论。被引推文解释了 Mac 与 NVIDIA DGX Spark 在长上下文/多用户场景下的差异:单用户时 decode 是内存带宽瓶颈,Mac 的 1.2TB/s 带宽占优;但多用户批处理时权重只读一次可服务多个 token,吞吐几乎免费扩展,瓶颈转向计算——Mac 低精度算力弱,Spark 的 Blackwell tensor core 原生 FP4 大幅领先。QuixiAI 补充:并发不是"多用户问题",单用户跑 subagents 也需要并发,因此推荐 lucebox 或四路 B70 工作站而非 DGX Spark,唯一遗憾是 lucebox 的网卡不如 Spark。