Qwen3.8 27B 统计无损量化 GGUF 发布,UD Q8 还原度达 99.5%

udmrzn · x · 2026-10-27

kaitchup 发布 Qwen3.8 27B 的统计无损量化(SLQ)GGUF 版本,声称优于上周的 GPTQ 版本,基于 Unsloth 最佳 UD GGUF 制作。作者在过程中发现 Unsloth 的 UD Q8 K XL 与原始 BF16 的下一 token 全词表概率分布匹配度达 99.5%,显著高于官方 FP8 量化。HF 上已上线 EAR98/98.5/99 等多个量化档位。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →