Unsloth 发布 Qwen3.8-27B 量化版：NVFP4 提速 1.5 倍，精度保持 92-97%
danielhanchen · x · 2026-08-14
Unsloth 宣布推出 Qwen3.8-27B 的 NVFP4 和动态 GGUF 量化版本。NVFP4 相比 BF16 速度提升 1.5 倍，同时保留 92-97% 的 top-1% 准确率。UD-IQ2XXS 量化在 9GB 内存下保留 82.5% 准确率，体积比 BF16 减小 83.5%（从 54.7GB 降至约 9GB）。这些量化模型可在 17GB RAM 的本地设备上运行，使 Qwen3.8-27B 成为同尺寸中最强的本地可运行模型。
所属事件:阿里开源 Qwen3.8-27B 原生多模态模型(48 条相关)→
「Infra」频道最新
- 开发者在 Colab 持续预训练 Luganda 语小模型，8 小时跑到 41% — weskambale · 2026-10-16
- 黄仁勋披露：每 GPU 年收约数千美元软件费，成 NVIDIA 重要收入线 — rohanpaul_ai · 2026-10-16
- 开发者亲测：几万块 V100 本地部署 DeepSeek，不如直接订阅 Claude — lxfater · 2026-10-16
- 公开喊话 neocloud：我愿买 3 万美元 GPU 算力，给个折扣吗 — Sauers_ · 2026-10-16
- 拿到新硬件就开跑：垃圾佬第一时间本地部署模型 — lxfater · 2026-10-16
- Together AI 提出 Score Centering:量化推理下 RL 训练不再崩 — nrehiew_ · 2026-10-16