Unsloth 发布 Qwen3.8-27B Dynamic V3.1 GGUF,代理基准提升 5-10%
danielhanchen · reddit · 2026-11-12
Unsloth(danielhanchen)发布 Qwen3.8-27B 的 Dynamic V3.1 GGUF 量化版本,相比 UD3、GSQ-RCO 和 Exllama-3,在 DeepSWE、Terminal Bench 等基准上准确率提升 5-10%。
要点:
- 2-bit 到 6-bit 全部更新(3-bit 的 UD3 与 UD3.1 表现持平,暂不更新);算法持续改进后将用于 Qwen4
- 代理类基准用 256K 上下文,其余(如 LiveCodeBench)用 128K;多次重复跑分(LCB x6、HMMT 等跑 8-16 次)
- 对 GSQ-RCO 的质疑:ISTA 声称其量化在 AIME25 达 96.7-100% 准确率恢复并称 Unsloth 更差,但 Unsloth 估算 ISTA 只跑了 1 次;自己跑 14 次后平均恢复率 93-96%,且旧 UD3 平均表现反而更好,结论相反
- 计入完整下载体积与内存占用后,Exllama-v3 在「RAM/磁盘 vs 准确率」曲线上表现更差
所属事件:Unsloth 发布 Dynamic V3.1 量化,精度提升且 token 减半(4 条相关)→
「模型」频道最新
- Polymarket 开盘:年底中国公司登顶 AI 榜首概率仅 6% — Polymarket · 2026-11-12
- FutureHouse 打造 deslopper:Kosmos 报告可读性逼真专家手笔 — proteinrosh · 2026-11-12
- 开源稀疏模型 Flint:40B 参数仅 2.5B 激活,M4 Pro 上跑 125+ tokens/s — agihouse_org · 2026-11-12
- 开发者实测 Gemini 4 Carbon:Favicon 设计与微交互表现更出色 — AI_Andrew · 2026-11-12
- Gemini Decision 1 知识推理评测居首,靠校准胜出而非准确率 — ArtificialAnlys · 2026-11-12
- Gemini Decision 1 单百万任务成本 $345,为榜首 Drex Max 3 倍多 — ArtificialAnlys · 2026-11-12