算力拆解实测:Spark 加速 Prefill,Mac 加速 Decode
toptickcrypto · x · 2026-08-20
一项技术实验展示了在 DGX Spark 和 Mac M5 Max 之间拆解计算(disaggregated compute)的效果。由于 Prefill 阶段受限于计算,Spark (350 TFLOPS) 速度约为 Mac 的 5 倍;而 Decode 阶段受限于内存,Mac (614GB/s 带宽) 速度约为 Spark 的 2 倍。通过在 Spark 上跑 Prefill、Mac 上跑 Decode,并利用 10Gb 网络传输 KV Cache,整体性能优于单设备运行。
「编程与Agent」频道最新
- Minimax H3 实测:低成本修复远景人脸并保持角色一致 — Support_Marmoset · 2026-08-20
- 没时间写简短 PR,只能写个长点的 — var_epsilon · 2026-08-20
- LangChain 创始人:缺能闭环修复的 Agent 平台 — hwchase17 · 2026-08-20
- 吐槽 Claude Code 极度不一致,开发者怀念传统编译确定性 — ivan_bezdomny · 2026-08-20
- Cursor 推出 /goal 长期任务指令,打造自主 Agent — minchoi · 2026-08-20
- 实战:用 Ling 3.0 Tiny 做 Qwen Agent 的加速辅助 — My_Unbiased_Opinion · 2026-08-20