开源 h3metal 引擎利用 M5/M6 矩阵单元,图像生成比 Draw Things 快 2.1-2.3 倍

audenvenn · reddit · 2026-11-15

作者发布开源(Apache-2.0)Apple Silicon 图像生成引擎 h3metal,把 transformer 跑在 M5/M6 GPU 核心新增的矩阵单元(neural accelerators)上,以 int8 矩阵乘法执行。

在 M6 Mac mini(24GB)、1024×1024、同 seed、与 Draw Things CLI 官方推荐设置的对比:

技术要点:激活经 Hadamard 旋转后的 int8×int8 乘法、int8 分数 flash attention、VAE 卷积写成隐式 GEMM,LoRA 直接在 int8 乘积内应用。还支持 FLUX.2 [klein] 9B 与 MiniMax-H3-Image(2048×2048 两步 16 秒)。

限制:仅在一台 M6 机器上实测;需 M5/M6 级 GPU 与 macOS 26,M1-M4 无矩阵单元;内存占用对比非同类。给出 pip 安装与生成命令,上手即用。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →