Unsloth推Qwen3.6 NVFP4量化提速

Unsloth 发布 Qwen3.6 的 NVFP4 量化方案,称在不损失精度前提下可把 27B 模型推理速度提升约 2.5 倍。随后又有社区在 4 张 5060 Ti 上用 vLLM 进行压测,验证其部署表现。

2026-07-10 ~ 2026-07-11 · 3 条相关