解决 MiniMax H3 旧显卡黑屏卡顿:FP16 混合精度修复提速 11 倍
Bubbly_Lawfulness_43 · reddit · 2026-08-08
MiniMax H3 官方仅支持 bf16/fp32,导致 V100 等老显卡只能以极慢的 fp32 模式运行,强制开启 fp16 则会输出纯黑图像。
开发者深入排查发现,模型 DiT 架构中有三处数值会溢出 fp16 的上限(文本条件投影、注意力下沉行等)。通过编写自定义节点,仅将这三处保留在 fp32 精度,其余部分全部在 fp16 下运算,成功在 V100 上实现了无画质损失的推理,速度从约 350s/step 暴降至 30s/step,提速约 11 倍。
该修复已开源,支持一键导入 ComfyUI,并在原生支持 bf16 的设备上自动禁用。
「Infra」频道最新
- 分析称特斯拉电机磁铁经验或助马斯克攻克芯片 EUV 光刻 — beffjezos · 2026-08-08
- 前 OpenAI 联创 Greg Brockman 疑将投身芯片供应链 — beffjezos · 2026-08-08
- TensorLens:纯浏览器端检查 HF 模型量化分布的开源工具 — Brilliant-Hall1387 · 2026-08-08
- 内存供应告急:2027 年产能已被预订一空 — johnnyApplePRNG · 2026-08-08
- RTX 5090 实测跑 Cosmos3-Nano:FP8/FP4 量化突破 32GB 显存限制 — fengwang_2_718281828 · 2026-08-08
- 单 CPU 跑百亿大模型:微软开源 1.58 bit 推理框架 BitNet — JafarNajafov · 2026-08-08