算力拆解实测:Spark 加速 Prefill,Mac 加速 Decode

toptickcrypto · x · 2026-08-20

一项技术实验展示了在 DGX Spark 和 Mac M5 Max 之间拆解计算(disaggregated compute)的效果。由于 Prefill 阶段受限于计算,Spark (350 TFLOPS) 速度约为 Mac 的 5 倍;而 Decode 阶段受限于内存,Mac (614GB/s 带宽) 速度约为 Spark 的 2 倍。通过在 Spark 上跑 Prefill、Mac 上跑 Decode,并利用 10Gb 网络传输 KV Cache,整体性能优于单设备运行。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →