Muse-Glimmer-30B 新量化方案发布:同显存下精度逼近 BF16

KvAk_AKPlaysYT · reddit · 2026-08-12

一位独立研究者在 Hugging Face 上发布了针对最新模型 Muse-Glimmer-30B 的全新量化版本(GGUF)。作者应用了其最新研究的量化优化技术(包括处于论文待发阶段的技巧和张量映射算法),使得该量化模型在各个 VRAM 显存级别中均未输给其他现有量化方案。

其中表现最突出的是 Q8 量化版本,它不仅体积小于标准的 UD-Q8KXL,而且精度比后者更接近原始的 BF16 权重。作者表示,完整的评测方法、置信区间和评估设置均已公开,后续将发布详细的技术文章解析这些“秘密武器”。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →