Nunchaku Lite 在 Diffusers 中显存减半、图像生成快 30%
RisingSayak · x · 2026-07-24
Nunchaku Lite 让大图像模型更容易跑起来
- 这次更新是 SVDQuant 4-bit（W4A4）扩散推理，并且已经 原生接入 Diffusers。
- 作者称它能把 峰值显存最高降低 50%，同时让生成速度提升约 30%，且没有明显破坏图像质量。
- 配图里的例子显示，峰值显存从 31.1 GB 降到 16.0 GB，端到端耗时从 3.00s 缩到 1.68s。
- 实际意义是：原本需要更高显存的图像模型，现在能在更多 GPU 上实用化运行。
「Infra」频道最新
- 同一套 DeepSeek 内核两种优化路线：vLLM 拆专家、SGLang 降访存 — AccBalanced · 2026-10-27
- Flint 本地实测：质量与 Qwen3.6 打平，速度快 3.6 倍 — RichardSocher · 2026-10-27
- Anthropic S-1 披露：CSP 渠道收入占比三年从 11% 涨至 48% — AccBalanced · 2026-10-27
- Alchemy 支持 Effect Workflow:跨 Durable Objects、Workflows 与 Lambda 持久函数 — samgoodwin89 · 2026-10-27
- Alchemy 推出 Lambda Web Functions,Node 版 Web 服务器直接上 Lambda — samgoodwin89 · 2026-10-27
- profiling 实测：Alchemy Cloudflare 绑定 CPU 时间最多降 166 倍 — samgoodwin89 · 2026-10-27