Unsloth 推出 Dynamic v3 量化,Qwen 27B 精度提升 10%
danielhanchen · x · 2026-08-19
Unsloth 发布 Dynamic v3.0 量化技术,并推出相应的 Qwen3.8-27B GGUF 模型。新版本在相同体积下,Top-1% 准确率比其他供应商高出 10% 以上,在 Divergence-300 和 KL Divergence 等指标上表现优异。该版本优化了层选择和校准数据集,特别针对 Agent 编码和多语言场景。此外,Unsloth 还发布了可在 8GB 显存上运行的 1-bit 量化模型,保留了 77% 的准确率。
所属事件:Unsloth 发布 Dynamic v3.0 量化,Qwen3.8-27B 8G 内存可跑(5 条相关)→
「Infra」频道最新
- TRL 复现 Modal 混合精度 RL 训练:GRPO 150 步崩塌,SC+MIS 稳到 0.72 — QGallouedec · 2026-10-16
- Hugging Face 开源印度语系预训练管线:2.8 万亿 token 数据 — Hugging Face Blog · 2026-10-16
- 英伟达 Vera Rubin NVL72 首批实测:每兆瓦吞吐最高达 GB300 的 5.7 倍 — ArtificialAnlys · 2026-10-16
- Turing Post 盘点 2026 年 14 款开源 LLM 可观测性工具 — TheTuringPost · 2026-10-16
- 本地 AI 不是隐私功能而是路由问题:任务该跑在笔记本、内网还是云端 — bigdata · 2026-10-16
- 把 Agent 工作从 GPU 挪回 CPU,让动作更持久可预测 — cramforce · 2026-10-16