Unsloth 发布 Dynamic v3.0 量化，Qwen3.8-27B 8G 内存可跑
Unsloth（Daniel Han）8 月 19 日发布 Dynamic v3.0 动态量化技术，8 月 20 日推出相应的 Qwen3.8-27B GGUF 量化模型。官方称同等模型体积下 Top-1% 准确率比其他量化供应商高出 10% 以上，在 Divergence-300 和 KL Divergence 等基准测试中同样领先 10% 以上；另推出的 1-bit/2-bit 极限量化版本（UD-IQ1M / UD-IQ2S 等）在保留 77% 准确率的前提下，把 27B 模型体积压缩到 6G8GB，使 8G 内存的 Mac 也能本地运行，显著降低大模型本地部署门槛。
已确认
- Daniel Han 8 月 19 日发帖宣布 Dynamic v3.0 量化技术，8 月 20 日发布 Qwen3.8-27B GGUF 新量化版本
- 官方数据：同等大小下 Top-1% 准确率提升 10% 以上，Div-300、KLD 等基准超出同类 10% 以上
- 1-bit/2-bit 版本（UD-IQ1M / UD-IQ2S 等）保留 77% 准确率，模型体积压缩至 6G8GB，仅需 8GB 内存即可运行
为什么重要
- 据 @Arindam1729 分析，Dynamic 3.0 的核心思路是对最重要的权重保持高精度、对不敏感权重做激进量化，而非全模型统一低比特量化，实现大小减半且质量更优
- 该方案面向 llama.cpp 生态的本地部署，在不同显存/内存预算与质量之间提供更好的平衡
- 低至 1-bit / 2-bit 的量化把 27B 级模型带入 8GB 内存设备，大幅降低本地部署门槛
2026-08-19 ~ 2026-08-21 · 5 条相关
一手来源
- Unsloth 推出 Dynamic v3 量化，Qwen 27B 精度提升 10% — danielhanchen ·
- Unsloth 发布 Qwen3.8-27B 新量化版：精度提升 10% — danielhanchen ·
- Unsloth 推出动态 3.0 量化：大小减半且质量更优 — Arindam_1729 ·
- 【源头】Unsloth 推出 Dynamic v3 量化，Qwen 27B 精度提升 10% — danielhanchen · 2026-08-19
- 【源头】Unsloth 发布 Qwen3.8-27B 新量化版：精度提升 10% — danielhanchen · 2026-08-20
- 8G 内存 Mac 也能跑，Qwen 27B 推出极限量化版 — SumitGup · 2026-08-20
- 【源头】Unsloth 推出动态 3.0 量化：大小减半且质量更优 — Arindam_1729 · 2026-08-20
另有 1 条近重复转述:pcuenq