社区发布 Qwen3.8 Flash 量化版:省 20-30GB 内存磁盘,质量持平 unsloth

Dutchnamn · reddit · 2026-08-29

Reddit 用户经多天测试发布了一套 Qwen3.8 Flash(Next)GGUF 量化文件,在质量相当的前提下比 unsloth、AesSedai 的同类量化少占约 20-30GB 磁盘和内存。readme 中公布了 PPL 数据,Q4 两档表现尤佳,Q3/Q5 后续跟进;采用 imatrix 与自研调优的量化配方。另为 AMD 用户提供了 ROCmFP4 专用量化,速度和质量略优于 Q4XS。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →