Unsloth 推出 Dynamic v3 量化,Qwen 27B 精度提升 10%
danielhanchen · x · 2026-08-19
Unsloth 发布 Dynamic v3.0 量化技术,并推出相应的 Qwen3.8-27B GGUF 模型。新版本在相同体积下,Top-1% 准确率比其他供应商高出 10% 以上,在 Divergence-300 和 KL Divergence 等指标上表现优异。该版本优化了层选择和校准数据集,特别针对 Agent 编码和多语言场景。此外,Unsloth 还发布了可在 8GB 显存上运行的 1-bit 量化模型,保留了 77% 的准确率。
所属事件:Unsloth 新量化版 Qwen3.8-27B 同体积精度提升 10%(2 条相关)→
「Infra」频道最新
- Fireworks 与 Baseten 成最大推理云,SpaceXAI 榜上有名 — GavinSBaker · 2026-08-20
- Nvidia 拟把 15 万美元 GPU 装上美国新房外墙,目标 2027 年 8 万节点 — alex_verem · 2026-08-20
- MLX Swift 推理引擎改进将移植开源,本地跑 Qwen 可直接用 LM Server — gajesh · 2026-08-20
- 算力短缺比想象更严峻,减 100% 显存也无解 — AccBalanced · 2026-08-20
- 千篇论文仅花 4 美元,DeepSeek V4 Flash 成本实测 — nutlope · 2026-08-20
- 论文实测生产级 Agent:非 LLM 组件成延迟主因 — dair_ai · 2026-08-20