Krea 2 的 SVDQuant 量化版在 ComfyUI 上提速约 2 倍
LightAppropriate624 · reddit · 2026-07-25
这是一个面向 Krea 2 的社区量化项目:作者把 checkpoint 做成了 INT8 / W4A4 版本,接入 ComfyUI 后号称可在质量几乎不塌的前提下获得 最高约 2 倍加速。
- 作者强调,网上常见的 FP8 方案只有在原生支持 FP8 tensor core 的 GPU 上才真正有用;在老卡上可能会被转回 bf16,甚至比直接 bf16 还慢。
- 他们把重点放在更早就支持的 INT8 和 W4A4 上,覆盖到 Turing / RTX 20 系列。
- 在 RTX 3090、1024×1024、8 steps 的测试里,bf16 warm run 约 21.3 秒,而 W4A4 版本 warm run 约 10.1–10.2 秒。
- 项目还顺手修了一个 ComfyUI 的 LoRA 加载问题:默认 loader 在这类量化模型上只会给大约 12% 的层打补丁,新 loader 则能覆盖完整网络。
- 这是一个社区项目,与 Krea 无官方关系。
所属事件:Krea 2 量化版接入 ComfyUI 推理提速超 2 倍(2 条相关)→
「Infra」频道最新
- Anthropic Q2 每 1 美元算力投入换回 2.08 美元营收 — cedric_chee · 2026-10-26
- CircuitHub 发布工厂级机器人 The Grid,美国产 PCB 提速两倍对标深圳 — garrytan · 2026-10-26
- Ubicloud 发文修复 vLLM 工具调用准确率问题 — petrusenko_max · 2026-10-26
- Meta 批准无投票权 C 类股,2026 年资本开支指引达 1350–1450 亿美元 — thione · 2026-10-26
- Unsloth 发布 MiniMax-M3.1-Flash 量化:2-bit 保留 91.5% 精度,150GB 内存可跑 — danielhanchen · 2026-10-26
- 芯片工程师实测经验:光子晶体调制器良率难控,不比 MRM 划算 — jwt0625 · 2026-10-26