Gemma 4 NVFP4量化发布
kalyan_kpl · x · 2026-07-15
Unsloth 发布了 **Gemma 4 的 NVFP4 量化版本**，主打更快的 GPU 推理与更低显存占用。 - 12B 版本可在 **11GB VRAM** 上运行 - 26B-A4B 在 **B200** 上可达到 **13K tok/s** - 官方称相较现有方案可实现 **1.5×** 的推理速度提升 - 重点是面向 **Blackwell** 架构的更准确 4-bit 推理优化 帖子还附带了博客和模型链接，属于具体可用的推理优化更新。