Qwen3.8 27B 推出 Blackwell 原生 NVFP4 量化版本,速度提升 50%
ionsago · reddit · 2026-08-21
发布了一款针对 Blackwell 架构优化的 Qwen3.8 27B NVFP4 4-bit 量化模型。在相同内存占用下,其预填充速度比标准 Q4 量化快 50%。在 RTX 5090 32GB 上的基准测试显示,该模型达到 6250 t/s,比其他 NVFP4 量化快 4-7%。该 GGUF 版本还包含量化的 MTP 草稿头,配合推荐设置可进一步提升 15% 的 MTP 速度。
「模型」频道最新
- Baseten 首日上线 Muse Spark Open API:输入 $1.25/百万 token — baseten · 2026-10-16
- Anthropic 红队两年来首次“抹除”模型,GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- 用户喊话 Google:给新模型放宽用量、合并成一个 App — dreamwieber · 2026-10-16
- 用户吐槽:Gemini 网页版可用但编码工具中无权限,体验割裂 — dreamwieber · 2026-10-16
- OpenAI 简化 API 用量层级:Build/Launch/Grow 三档,花钱自动升级 — prd_008 · 2026-10-16
- 小米 MiMo RL 训练曝光:30 步花掉 347 万美元 — bycloud · 2026-10-16