Unsloth 实测打脸 GSQ-RCO：DeepSeek-V4.1 量化复现不出对方宣传成绩
danielhanchen · reddit · 2026-10-30
Unsloth 发布 DeepSeek-V4.1-Flash-1017 的 Dynamic v3.1（预览）GGUF 量化，并在 7 个基准上对比 ISTA 的 GSQ-RCO GGUF，称无法复现对方报告的结果：GSQ-RCO 声称 AIME25 恢复 100% 基线精度，Unsloth 实测仅约 91.88%。在 AIME25、LiveCodeBench、GPQA Diamond、Aider Polyglot、MMLU-Pro 等几乎所有指标上，UD v3.1 都领先 GSQ-RCO，甚至旧版 v3 也优于对方。每个基准至少跑 3 次（AIME25 跑 16 次）取平均。另发现低比特量化会让模型推理略变长，但 UD 在推理长度上也占优。模型可在 128GB 内存设备运行，关闭 Engram offloading 时 64GB 也可。同时 Unsloth Desktop 新增 Browser Use、自动压缩、带声音克隆的 TTS 管线、沙箱等。数据与图表见 unsloth.ai 博客，权重在 Hugging Face（unsloth/DeepSeek-V4.1-Flash-1017-GGUF）。
所属事件:Unsloth称无法复现GSQ-RCO量化成绩(2 条相关)→
「Infra」频道最新
- 量子行业去年风投 49 亿美元仅营收 19 亿，四市场全景指南发布 — antavedissian · 2026-10-30
- 单卡 5090 跑 DeepSeek V4.1：prefill 超 4000 tok/s，解码 7-24 tok/s 可调 — Front_Eagle739 · 2026-10-30
- Cohere 加码加拿大：投资超 40 亿加元，2031 年前新增 1500 岗位 — cohere · 2026-10-30
- River API 支持任意自定义 Loss 训练 LLM:本地写 PyTorch,远端 GPU 零开销执行 — ibab · 2026-10-30
- 无缓存 agent 成本暴涨 260%，缓存折扣两年内从 0 到 95% — arena · 2026-10-30
- LiteLLM 网关漏洞可从 Postgres 窃取上游密钥，网关密钥存放方式遭质疑 — Early-Sir-932 · 2026-10-30