Qwen 27B 的 NVFP4 量化效果不如预期
Pyrolistical · reddit · 2026-09-01
作者使用 llama-perplexity 对 Qwen3.8 27B 的多个 NVFP4 GGUF 量化模型进行了评测，并与 Unsloth 的基准量化进行对比。结果显示，所有测试的 NVFP4 模型在相同文件大小下的困惑度均高于预期，甚至不如 Q4KXL（作者常用的日常驱动版本）。这解释了为何 Unsloth 未发布 NVFP4 GGUF 版本。
「模型」频道最新
- Mistral 发布 Timestral 时序预测模型，500 万参数可跑普通 CPU — lmoroney · 2026-10-18
- 曝 Hugging Face 热榜被刷:AutoTrust 模型靠数千养号点赞冲榜 — mrfakename0 · 2026-10-18
- Google AI Studio 全面升级:Gemini 4 Argon 驱动全栈应用一键部署 — clmt · 2026-10-18
- 爆料:OpenAI 下周将发布新模型,代号 aurora 疑似三款 alpha — imjustnewatai · 2026-10-18
- 用户吐槽 Gemini 推出 Argon 后大面积卡顿：一半请求挂起 — johnfromberkeley · 2026-10-18
- Domingos：叠加是特性而非缺陷，不损可解释性反增记忆容量 — pmddomingos · 2026-10-18