NVIDIA 发布 Qwen 3.8 27B 的 NVFP4 官方量化版本
llm_wizard · x · 2026-09-09
NVIDIA AI 官方账号确认发布了 Qwen 3.8 27B 的 NVFP4 量化版本(模型已上线 Hugging Face)。NVFP4 是 NVIDIA 推动的 4 位浮点格式,可在保持精度的同时大幅压缩模型体积、提升推理效率,适合在 RTX 等消费级及数据中心 GPU 上本地部署 Qwen 系列模型。
所属事件:NVIDIA 上架 Qwen3.8-27B NVFP4 量化版并登 HF 热榜(3 条相关)→
「Infra」频道最新
- 全同态加密 GPT-2 速通赛开跑:现纪录 3.031 秒/token — tensorqt · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel,H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- Together 推出并行 LoRA 实验:多个实验共享同一批 GPU,免重复配置 — togethercompute · 2026-10-27
- 要么人力商品化,要么 GPU 商品化:算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27