统计无损量化版 Qwen3.8-27B 发布:权重最高小 57%,保真 98-99%

udmrzn · x · 2026-10-23

基于 ISTA DASLab(GPTQ、GSQ、RCO 背后团队)的 SLQ 方法,kaitchup 发布了三个统计无损量化的 Qwen3.8-27B 版本,权重 23.7–30.5 GB,比 BF16 最高小 57%。- 评测指标 EAR 衡量与 BF16 下一个 token 概率分布的重叠度,三个版本实测 EAR 为 98–99%,高于原生 FP8 的 97.71%- 搜索过程直接优化 EAR,给敏感投影层分配更多精度,激活保持 BF16- 支持 vLLM + Humming,Apache 2.0 开源,GGUF 版本下周推出

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →