ByteShape 发布 Qwen 3.8 27B 全系量化：3.84bpw 达 BF16 精度 99.63%
enrique-byteshape · reddit · 2026-09-15
ByteShape 在 r/LocalLLaMA 发布了完整的 ShapeLearn GGUF 量化模型（Qwen 3.8 27B），并公布了系统评测结果：
- 精度：3.84 bpw（GPU-5）达到 BF16 八项基准综合分的 99.63%，是评测过最准的量化；3.23 bpw（GPU-4）仍达 98.72%。
- 对比：与 Unsloth v3、ISTA-DASLab、AtomicChat、Bartowski 比较，五个新模型在六块 GPU（RTX 6000 Pro Blackwell、5090、4090、3090、4080、5060 Ti）上均落在质量/速度-bpw 前沿；此前『赶工发布』的 Lite 版也在对比中拿下 6 个前沿位中的 3 个。
- KLD 不等于质量：Unsloth UD-IQ3S 的 KLD 比同尺寸 Lite 低约 20%，任务分数却更差（95.55% vs 97.33%）。作者结论：KLD 只能用来剔除『垮掉』的量化，不能当量化排行榜——这是其被 EMNLP 2026 Industry Track 接收的论文核心论点。
- 推理加速：DFlash2 带来 1.34–2.10× 吞吐提升，MTP 为 1.28–1.66×（温度采样下）。
- 基准覆盖：GSM8K、MMLU、IFEval、LiveCodeBench V6、Multi-IF、ACEBench、Multiple HumanEval、BFCL V4，兼顾 instruct 与 thinking 模式。
「Infra」频道最新
- B200/H100 租金周内创新高，年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍，特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02