ComfyUI支持INT4快速推理
Limp-Chemical4707 · reddit · 2026-07-10
帖子介绍了一个新的 ComfyUI 自定义节点包 ComfyUI-INT4-Fast,用于在 ComfyUI 中原生运行超快、显存友好的 INT4/W4A4 模型。
作者给出实测:在 RTX 3060 6GB 上跑预量化的 Krea2 Turbo 模型,1024×1024、8 steps 的单次生成耗时约 17.64 秒,并说明该节点支持混合精度 checkpoint,能把敏感层自动分配到更合适的执行路径。
所属事件:ComfyUI推出INT4快速推理低显存插件(2 条相关)→
「Infra」频道最新
- Lam Research:18 个月内周均 token 用量暴涨约 250 倍 — Beth_Kindig · 2026-10-27
- 全同态加密 GPT-2 速通赛开跑:现纪录 3.031 秒/token — tensorqt · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- Together 推出并行 LoRA 实验:多个实验共享同一批 GPU,免重复配置 — togethercompute · 2026-10-27
- 要么人力商品化,要么 GPU 商品化:算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27