67B 图像模型跑进 16GB MacBook Air:MLX 移植峰值内存降至约 2.5GB

FlimsyBrief4232 · reddit · 2026-11-13

开发者将 MiniMax 新的约 67B 参数 H3-Image 模型移植到 Apple Silicon(MLX),在 16GB M5 MacBook Air 上即可运行,峰值进程内存仅约 2.5GB,1024×1024 出图最快 34.8 秒,且使用原版 6 步模型、无额外量化。

核心技术是组合了分阶段推理、按需 DiT 权重流式加载、异步执行、权重预取和 W8A8 Metal 加速。作者在 M5 Pro(48GB)上对比:常驻模式 23.63 秒/21.18GB,流式 32.33 秒/2.53GB,流式+预取+异步 23.61 秒/3.23GB——峰值内存降低约 85% 而速度几乎无损,三种模式出图像素级一致。