Unsloth 发布 Qwen3.8-Flash-Next 动态量化,准确率提升 10-15%
danielhanchen · reddit · 2026-11-05
Unsloth 发布 Qwen3.8-Flash-Next 的 Dynamic v3.1 GGUF 量化版本,在 DeepSWE、Terminal Bench、Aider Polyglot 等 benchmark 上比 GSQ-RCO 准确率高 10-15%,并首次提供 engram 切换功能,支持 BF16/Q80/Q51/IQ4NL 精度切换。
关键信息:
- 测试规模扎实:共跑 26.2B token,DeepSWE 占 18.1B,LiveCodeBench 跑 3 次,HMMT 等跑 8-16 次取平均
- 测试设置:agentic benchmark 用 256K 上下文,其余 128K;temperature 1.0、topp 0.95、topk 20
- 各量化相对 BF16 的 RMSE:Q80 为 0.0053(54.4GB)、Q51 为 0.0376(38.4GB)、IQ4NL 为 0.0757(28.8GB)
- 目前更新到 UD-Q4KXL 以下量化,更大版本计划后续更新
所有量化已在 Hugging Face(unsloth/Qwen3.8-Flash-Next-GGUF)开源。
所属事件:Unsloth 发布 Qwen3.8-Flash-Next 动态量化新版本(4 条相关)→
「Infra」频道最新
- 曝苹果削减员工 AI 用量额度：工程师日上限从 300 美元降至 200 — rohanpaul_ai · 2026-11-05
- SkyPilot Tokens 首日上架 Kimi K3.1 Pro:104B 激活、1M 上下文、降价 40% — skypilot_org · 2026-11-05
- 高盛限制交易员使用部分 AI 工具，苹果削减内部 AI 使用预算 — GaryMarcus · 2026-11-05
- Polymarket 押注 29% 概率年内有州暂停数据中心建设 — Polymarket · 2026-11-05
- 4G 显存老笔记本跑 Qwen 27B 编码,每秒不到 1 token 也能干活 — Felix_455-788 · 2026-11-05
- Beff 评政策限制：挡不住进步，只会加速太空数据中心建设 — beffjezos · 2026-11-05