Qwen3.8-Next 3bit 量化反超 27B Q4:166 题实测 151 比 145
politerate · reddit · 2026-10-15
Reddit 用户用 evalscope 走 OpenAI 兼容 API,在消费级显卡上对比了两款 GGUF 量化模型:Qwen3.8-Next IQ3S(MI50 32GB,Strata)与 Qwen3.8-27B UD-Q4KXL(RX 7900 XTX,llama.cpp),统一 temp 1.0 / topp 0.95 / topk 20。
四项基准总计 166 题,Next 得 151 分、27B 得 145 分:AIME26 为 28 vs 27,IFEval 48 vs 46,BFCL v4 49 vs 47,LiveCodeBench v6 26 vs 25。仅在单方解出的 14 题上 Next 以 10 比 4 领先,但符号检验 p=0.18,只能算倾向而非定论。失败模式上 Next 答错 9 题、token 耗尽 6 次,27B 分别为 14 和 7。速度是代价:27B 跑出 47.9 tok/s,Next 只有 36.8 tok/s。结论是 Next 在极低量化下仍整体略胜,但更慢。
「模型」频道最新
- Perplexity 上线 Gemini 4 Argon,称刷新 WANDR 基准纪录 — AravSrinivas · 2026-10-16
- 开发者吐槽现行 DLP 全是正则方案，欲用 LLM NER 重做 — HankYeomans · 2026-10-16
- 爆料称 GLM 5.5 与 Kimi K3.1 即将发布,或与反蒸馏封锁有关 — zephyr_z9 · 2026-10-16
- 75 家企业真实工作基准:GPT-6 与 Claude 排名随任务反转 — BorisMPower · 2026-10-16
- Google 年付 Gemini AI Plus 用户遭中途降级,11月13日起失去 Pro 模型 — Ray_ProUser · 2026-10-16
- 夸一句就出图：小模型画鹈鹕骑车SVG画质飙升 — Fancy-Snow7 · 2026-10-16