Unsloth 发布 Qwen3.8-Flash-Next 量化版,精度提升 10-15%
danielhanchen · x · 2026-11-05
Unsloth 发布 Qwen3.8-Flash-Next 的新版 Unsloth Dynamic v3.1 GGUF 量化,相比 GSQ-RCO 在 DeepSWE、Terminal Bench、Aider Polyglot 等基准上精度高 10-15%,32GB+ 内存即可运行。
- 同时提供 BF16、Q80、Q51、IQ4NL 各档量化(engram)选择指南:RMSE 分别为 0、0.0053、0.0376、0.0757,文件大小 102.4/54.4/38.4/28.8 GB
- 此前 DeepSeek-V4.1-Flash UD3.1 工作同样比其他量化高 10-20% 精度
- 测试条件:agentic 基准 256K 上下文、其余 128K;temperature 1.0、topp 0.95、topk 20、无惩罚项,共跑超 260 亿 token
- 基准、评分与 infra 问题追踪已迁移至新仓库
所属事件:Unsloth 发布 Qwen3.8-Flash-Next 动态量化新版本(4 条相关)→
「Infra」频道最新
- LFM3-Omni-2B 移植 iPhone:完全离线多模态对话达 80 tok/s — JosephJacks_ · 2026-11-05
- 轨道数据中心发射入轨:被玩成「精灵西渡」的科幻梗 — rand_longevity · 2026-11-05
- 越南林同省拟引入 Starlink,破解山区事故救援通信难题 — elonmusk · 2026-11-05
- SpaceX 携手高通建全美 Starlink Mobile 5G 网络,2027 年铺开 — Polymarket · 2026-11-05
- Agent 烧钱循环怎么防:调用前预算护栏的六道检查与三个踩坑 — MaverikSh · 2026-11-05
- 美国 AI 扩张卡在两道物理关口:电力与人形机器人量产 — ingliguori · 2026-11-05