ComfyUI支持INT4快速推理
Limp-Chemical4707 · reddit · 2026-07-10
帖子介绍了一个新的 ComfyUI 自定义节点包 **ComfyUI-INT4-Fast**,用于在 ComfyUI 中原生运行超快、显存友好的 INT4/W4A4 模型。 作者给出实测:在 RTX 3060 6GB 上跑预量化的 Krea2 Turbo 模型,1024×1024、8 steps 的单次生成耗时约 17.64 秒,并说明该节点支持混合精度 checkpoint,能把敏感层自动分配到更合适的执行路径。
所属事件:ComfyUI推出INT4快速推理低显存插件(2 条相关)→
「Infra」频道最新
- 现货内存价飙升 140%,合约重定价开始滞后 — tengyanAI · 2026-07-21
- 有人把 AI 使用方式指向异步长周期实验而非单买算力 — voooooogel · 2026-07-21
- PrismML Bonsai 27B 量化后仅 3.8GB 可手机运行 — tony10000 · 2026-07-21
- 有人主张给模型独立 micro VM,少用 tool calling — joecole · 2026-07-21
- 把数据集打包成顺序 blob,训练吞吐提升 30% — irinarish · 2026-07-21
- 一个 C++20 CPU 原生 strict-W1 训练 runtime 寻求反馈 — Wonderful-Income7415 · 2026-07-21