GPU vs CPU 之争:MFU 超三成很常见,但用海量 LLM 实例跑顺序算法是否真划算?
joseph_h_garvin · x · 2026-10-30
一场关于 GPU 利用率与计算经济学的技术讨论。
josephhgarvin 提出：在 CPU 世界里工作负载小、软件复杂，几乎没有程序能接近最优运行；而在 GPU 世界里负载昂贵、软件简单，程序通常运行得相当接近最优，MFU（模型浮点利用率）超过 30% 很常见。
反对者指出 MFU 可能只见树木不见森林：如果让海量 LLM 实例各自去执行本身顺序、分支密集的算法（不借助代码执行），MFU 看起来会很好看，但大部分 FLOPs 并没有产生有效价值，同样任务用 CPU 跑会便宜得多。cisfemale 回应称，这类算法 LLM 实例无法脱离代码执行独立完成，而让 LLM 写 GPU 代码跑顺序分支逻辑 MFU 会很难看；她也承认 GPU 在顺序和分支代码上的表现比想象中好，只是仍逊于 CPU。