ComfyUI INT4推理插件实现低显存极速生图
Limp-Chemical4707 · reddit · 2026-07-10
开发者推出了名为ComfyUI-INT4-Fast的自定义节点包,可在ComfyUI中原生运行超快、低内存占用的INT4 (W4A4) 模型。该项目支持原生混合精度检查点,能动态解析模型元数据,将主块路由至INT4 Tensor Cores,同时将敏感层交由INT8执行,从而避免维度错误并保持生成质量。
性能方面,在RTX 3060 (6GB显存) 和32GB内存的设备上运行Krea2 Turbo模型,1024x1024分辨率下速度可达1.78秒/步,总耗时约17.64秒。
所属事件:ComfyUI推出INT4快速推理低显存插件(2 条相关)→
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen,Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人:现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11