Mac Studio M5 Ultra 对比双 DGX Spark 本地推理互有胜负

博主与实验室近日对比了 Mac Studio（M5 Ultra 80 核 GPU / 256GB，oMLX）与双机 DGX Spark（2×GB10，vLLM TP2）的本地大模型推理性能。在 3 个模型测试中，Mac Studio 跑分击败对手，Qwen 最高达 164.8 tok/s；另一组测试将输入从约 30K 拉到 190K tokens（200K 上下文上限），长输入场景下双方互有胜负。

2026-10-19 ~ 2026-10-19 · 2 条相关