mlx-dspark更新提升Apple Silicon模型推理速度
GlennCameronjr · x · 2026-07-18
mlx-dspark 更新提升了 Apple Silicon 上的模型推理速度。Gemma-4 12B 的运行速度提升至 2.1 倍（此前为 1.8 倍），且保持输出无损，这得益于 mlx 0.32 的新内核。 此外，v0.4 版本为三值模型 Bonsai-27B 实现了首个在 Mac 上有效工作的投机解码，代码任务接受率达到了 93%。
GlennCameronjr · x · 2026-07-18
mlx-dspark 更新提升了 Apple Silicon 上的模型推理速度。Gemma-4 12B 的运行速度提升至 2.1 倍（此前为 1.8 倍），且保持输出无损，这得益于 mlx 0.32 的新内核。 此外，v0.4 版本为三值模型 Bonsai-27B 实现了首个在 Mac 上有效工作的投机解码，代码任务接受率达到了 93%。