Qwen3.8-Flash-Next 量化新方案:体积砍到约 1/5,跑分几乎无损
BullfrogScary8947 · reddit · 2026-09-16
ISTA-DASLab 发布 Qwen3.8-Flash-Next 的 GSQ-RCO GGUF 量化版本,把约 80-95GB 的模型压到 68-76GB,并保持接近基线的质量。要点:
- IQ3XXS 是最强档位:AIME25 与基线完全持平(100.00),GPQA-Diamond 差 0.51 分,LiveCodeBench v6 差 1.14 分,体积约为 BF16 的五分之一。
- Q20 主打速度:避开依赖大查找表的量化格式,较 IQ2XS 实现 3.4 倍 prompt 吞吐、1.9 倍更低端到端延迟,编码任务 prompt 吞吐提升 6.2 倍,decode 速率不随内容波动;代价是任务均分 89.07 对 89.16,比 IQ3XXS 低 3.5 分。
模型已在 Hugging Face 上线,适合本地部署时按吞吐/质量需求选档。
所属事件:ISTA-DASLab 发布 Qwen3.8-Flash-Next 量化版(2 条相关)→
「Infra」频道最新
- 欲撼动 Postgres 须先复制其集成生态，而非只拼性能 — mgill25 · 2026-11-02
- 用 ESP32 小屏给 DGX 集群做推理监控面板,固件开源 — CATLLM · 2026-11-02
- OpenRouter 年化 Token 量破 10 千万亿,每 10.5 周翻一倍 — deedydas · 2026-11-02
- Palmer Luckey 追问数据中心 RAM 的使用权边界:能否做服务条款禁止的事 — avaitopiper · 2026-11-02
- 本地跑大模型实测:关闭 MTP 可提升 20-30% 生成速度 — InternalMode8159 · 2026-11-02
- Kioxia 股价一年涨 216%，但较 6 月高点已腰斩再腰斩 — zephyr_z9 · 2026-11-02