Qwen3.8-27B 低比特量化实测：1.8bpw 得分崩至 13%

casper_hansen_ · x · 2026-10-24

casperhansen 在 MiMo RL 环境上实测了 Qwen3.8-27B 经 EXL3 量化后的表现：

• BF16 原始精度：63.2%
• 2 bpw（v1.4.2）：约 55.5%
• 1.8 bpw（v1.4.2）：仅 2%（近乎完全崩溃）
• 1.8 bpw（v1.6.4）：回升到 13.2%

他指出在 1.8 bpw 下约 27% 的权重被压到 1-bit，这正是导致模型能力崩塌的原因。对想在低端显存上跑大模型的用户，这是量化比特数下限的实用参考。

原文链接 →

「模型」频道最新

• Kimi K3.1 国内先上线?海外用户暂不可用的区域差异引吐槽 — teortaxesTex · 2026-10-24
• Kimi K3.1 Pro 上线 Kimi Code 与官网,定位全能旗舰模型 — cedric_chee · 2026-10-24
• 1626 题实测:免费 e5-large 嵌入模型在多语言上胜过 OpenAI 付费版 — julsimon · 2026-10-24
• Muse 语音助手坚称「iPhone Duo」不存在,实测翻车截图走红 — jesselyu · 2026-10-24
• SWE-sweep 榜单更新：OpenAI 与 Anthropic 模型找 bug 数翻倍、成本减半 — stanfordnlp · 2026-10-24
• AI 挖漏洞快过修复：2026 前 7 月已录 45207 个新漏洞 — rohanpaul_ai · 2026-10-24

更多「模型」频道 AI 资讯 →