Qwen3.8 27B 量化实测:4-bit 性能守住,1-bit 直接崩塌
stared · hn · 2026-09-08
- Quesma 对 Qwen3.8 27B 的多种量化版本做了系统基准测试。
- 结论:4-bit 量化与原模型表现基本持平,可作为性价比之选;但压到 1-bit 时性能严重崩塌,不再可用。
- 对需要在本地或低成本硬件上部署中等规模模型的人,这篇文章给出了量化的实用边界参考。
「Infra」频道最新
- M.2-Oculink 显卡链路暗降 PCIe 1x,附 lspci 排查命令 — El_90 · 2026-09-11
- DeepSeek 发布 V4.1-Flash:百万 token 上下文,KV 缓存缩小 4 倍 — matlabulous · 2026-09-11
- 8GB 显存还能干嘛？网友求解小模型现状与推荐 — riceinmybelly · 2026-09-11
- 西班牙新规要求 80% 逐小时绿电匹配,数据中心建设或耗资千亿欧元 — eherrerosj · 2026-09-11
- Draghi 引用 ECB 研究:AI 或每年提振欧洲生产率 0.3-0.4 个百分点 — rohanpaul_ai · 2026-09-11
- 高通新一代 Hexagon NPU 曝光:可跑 30B MoE,上下文 32K — lee_stott · 2026-09-11