Reddit 实测:新发布的量化模型普遍不敌几个月前的 DS/Qwen

EmilPi · reddit · 2026-10-24

作者在 2×RTX 3090 + 128GB RAM 环境下对一批新模型 GGUF 量化做了初步横评(Delta score 衡量超出平均的程度),DeepSeek-V4-Flash-Vision-Exp (MXFP4) 以 2.86 居首,Qwen3.8-Flash-Next 系列次之。任务涵盖 agentic coding、推理、空间推理、物理、对抗与大海捞针。结论:新模型均未超过几个月前的 DeepSeek/Qwen 水平。意外发现:Qwen3.8-Flash-Next 配 Strata(-kv int8)无质量损失且更快;Nemotron-3.5-Bolt 的 QAT 量化令人失望;Ling-3.0-Flash-Sante 更快但质量未提升;K2-Horizon-7B 同尺寸表现不俗。作者欢迎不同结果以改进测试。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →