MOSS 图像模型 fp16 黑屏有解:混合 int8 权重让 RTX 2060S 提速 28%
mkrGG · reddit · 2026-11-18
作者排查 ComfyUI 的 GitHub PR 后发现,MOSS 图像基座模型不能开 fp16 的原因是部分权重峰值会产生 NaN/黑屏;KBlueLeaf 在 HF 上发布了修复版 MOSS-Image-FP16-fixed,但 8GB 显存装不下全 fp16。
作者的解决方案:把 ComfyUI 版的 int8 权重与 KBlueLeaf 的 fp16 权重混合,并让 AI 写了一个 ComfyUI 自定义节点做 fp16 加载和 clamp,无需改动 ComfyUI 代码。另发布 heal 版权重用于训练 LoRA。
RTX 2060 SUPER 上 2MP 实测:mossimagebaseint8convrot 6.64s/it → int8fp16 混合 4.78s/it,提速约 28%;原版 int8 配节点也能达到 4.80s/it,但高分辨率下用 LoRA 可能因 clamp 出伪影。权重和节点均已开源(HF + GitHub)。
「Infra」频道最新
- The Verge 深挖微软 Outlook 大规模宕机:原因与修复为何耗时 — tomwarren · 2026-11-18
- Kimi K3.1 Pro DSpark 细节:2.5B 草稿模型,GSM8K 接受长度 5.57 — vllm_project · 2026-11-18
- vLLM 发布 Kimi K3.1 Pro 投机解码草稿模型,接受长度最高提升 30% — vllm_project · 2026-11-18
- Wonderful 自研语音模型基于 Together AI,首句延迟仅 274ms — togethercompute · 2026-11-18
- Anthropic S-1 揭示仅 25% 算力用于推理,投资人直呼看空 — toptickcrypto · 2026-11-18
- LanceDB 融资 5750 万美元 B 轮,瞄准 AI 时代的多模态数据栈 — pzakin · 2026-11-18