INT8 量化 ComfyUI 节点:LoRA 体积最高省 75%,1134MiB 缩到 284MiB
BakaPotatoLord · reddit · 2026-11-20
作者发布开源 ComfyUI 自定义节点包 ComfyUI-INT8-LoRA,把 LoRA/LoKr 文件以 INT8 存储以节省磁盘,加载时在内存解码并正常应用:
- FP32 LoRA 约省 75%,BF16/FP16 约省 50%;实测 8-step MOSS LoRA 从 1134 MiB 降到 284 MiB
- 提供单文件量化、文件夹批量量化、INT8 LoRA 加载(可三连叠)等节点,可与普通 loader 链接
- 默认 auto 方法:同时用 INT8 与 INT8 ConvRot(带旋转)量化,取误差更小者保存;量化后需按 R 刷新模型
- 限制:只省存储不省 RAM/VRAM;仅测过 MOSS 与 Anima 格式;重复生成结果高度相似,偶有细微差异
「Infra」频道最新
- 投资人称英伟达算力兜底不可怕:至少三家竞品正争夺「AI 央行」 — GavinSBaker · 2026-11-21
- 实测 11 个开源模型新注意力架构:128K 上下文显存最高省 139 倍 — bariskasikci · 2026-11-21
- Anthropic 已递交纳斯达克上市申请,博主劝你先在本地存一个开源模型 — alex_verem · 2026-11-21
- 微软推 MAI Licensed Weights:可带走前沿模型权重部署到自有环境 — marlene_zw · 2026-11-21
- Looped CED 论文:循环复用编码器 KV 缓存省 36.8 倍内存 — teortaxesTex · 2026-11-21
- Google:Agent 是会话不是请求,GKE 节点池要按会话来规划 — rseroter · 2026-11-21