10 张 GPU、467 次实测:ComfyUI 量化格式选型基准出炉
mybrianonacid · reddit · 2026-11-10
Reddit 用户发布了一份大规模 ComfyUI 量化基准:5 种存储格式(fp8 cast、fp8 scaled、int8 ConvRot、w4a8、nvfp4)对比 bf16 原版,覆盖 Anima、Z-Image、MOSS-Image、Krea 2 和 SDXL/Illustrious 的基础版与 turbo 版,共 15 个模型、467 次运行,在 10 张显卡(PRO 6000、5090、5080、5070 Ti、5060 Ti、3090、3080 Ti、3080、3060 Ti)上实测速度与显存占用,同一 seed 与 prompt 保证可比。
核心结论:
- int8 ConvRot 是所有测试模型中最忠实的格式;在 RTX 30 卡上只要放得下也最快,3090 上约 2 倍 bf16 速度
- nvfp4 在 RTX 50 上最快但漂移最大;w4a8 在所有模型上都比 nvfp4 更准
- 不要把 turbo LoRA 直接加载到已量化的模型上——多数改动会在取整时丢失;应先合并进 bf16 再量化
- 8GB 显卡能跑的比想象多:Z-Image 和 MOSS 以 int8 完整装进 3060 Ti,速度约为 bf16(需换页流式加载)的 2 倍;Krea 2 也能跑,约 1.5 分钟一张
- 没有跑不起来的情况:ComfyUI 动态显存会从系统内存流式换页,只损失速度不崩溃
- 画质取决于 GPU 代际而非具体型号:所有 RTX 50 与 PRO 6000 相差几个百分点内,RTX 30 都接近 3090
- 杂项:模型装得下时 PCIe x4 无损耗;接显示器的生成卡损失几个百分点;每降 50W 功耗墙损失 4–6% 速度省约 3% 电;降压超频损失 5–10% 速度省约 20% 功耗
缺口:缺少 RTX 40 系数据(作者没有该卡)。已在 GitHub 开源测试套件(comfyui-quant-bench),支持 Docker/WSL2 一键跑相同测试并回传数据上榜。完整报告含「我的卡能不能跑」查询框:ai-evolution.dev/quant-bench。
「Infra」频道最新
- 挪威暂停新数据中心电力预留申请,最长或至 2027 年 8 月 — Polymarket · 2026-11-10
- 图解 PagedAttention:像操作系统虚存一样管理 KV cache — NielsRogge · 2026-11-10
- 台积电 10 月营收同比暴涨 60%,AI 芯片需求持续推高增速 — firstadopter · 2026-11-10
- Archil 称自托管 Spark 比 Databricks 快 2-5 倍且成本减半 — massimosgrelli · 2026-11-10
- llama.cpp 新增 --shard 参数,支持跨盘加载分片与独立 PLE 文件 — pmttyji · 2026-11-10
- 选 agent 沙箱的四个硬指标:内置 CLI、权限隔离、屏幕流、密钥代理 — pramodk73 · 2026-11-10