统计无损 Qwen3.8 27B 量化 GGUF 发布,23GB 接近 FP8 体验
Dany0 · reddit · 2026-10-28
Reddit 用户测试了疑似来自 IST-DASLab SLQ 论文(arXiv 2605.02404)的「统计无损」Qwen3.8 27B GGUF 量化版本,约 30k tokens 的非严格体验后感觉与 FP8 相当甚至更好。
配图对比了不同量化方案在 2048 tokens 序列长度下的 EAR 保真度与体积:SLQ EAR99(23.3GB)在 99% EAR 处明显优于同体积的 UD-Q6KXL(24.9GB),SLQ EAR98.5/EAR98 也比对应体积的 donor GGUF 保真度更高。对本地部署用户来说,这意味着更低显存占用下可能获得接近满精度的质量,值得实测验证。
所属事件:Qwen3.8 27B 统计无损量化 GGUF 发布，还原度达 99.5%(2 条相关)→
「Infra」频道最新
- AI 时代数据中心成安全新前线：网络与物理威胁加速融合 — ChuckDBrooks · 2026-10-28
- 开源工具 preowned 把 macOS 内置模型变成 OpenAI 兼容本地 API — pcuenq · 2026-10-28
- AMD MI355X 上跑出 2100+ tok/s，推理引擎协同设计削平协调税 — JiaZhihao · 2026-10-28
- LFM3-VL-2B 在浏览器内以 WebGPU 实现实时视频字幕 — xenovatech · 2026-10-28
- 硅谷 Agent Infra 一半流量已非人类：Cloudflare 过半、Vercel 六成部署来自 Agent — FinanceYF5 · 2026-10-28
- 开源端侧 TTS 项目 Phonon 下载破 8 万，Rust 运行时不依赖 PyTorch — mattturck · 2026-10-28