MLX 经 Vulkan 跑出 124 tok/s,同卡速度反超 CUDA 25%

SumitGup · x · 2026-11-22

Joshua Warren 发布 Omarchy-mlx 更新:苹果 MLX 框架通过 Vulkan 在 RTX 5060 Ti 上解码 Qwen3-4B 4-bit 达 124 tok/s,超过同卡 llama.cpp CUDA 的约 101 tok/s,质疑「CUDA 是 NVIDIA 护城河」的流行说法。

关键技术点:

结论:MLX-Linux-Vulkan 栈在 NVIDIA 自家芯片上跑赢了 CUDA,框架层的调度优化空间比想象中大。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →