Qwen3.8-27B 现支持 NVFP4 与 DFlash2 量化部署
Alibaba_Qwen · x · 2026-08-21
SGLang 烹饪书新增 Qwen3.8-27B 的 NVFP4 + DFlash2 部署配方。该组合在社区反馈中表现出色，提供了高性能的 W4A4 量化推理方案，支持在 H200、RTX PRO 6000、RTX 5090 等单 GPU 上运行。文档包含详细的 Python/Docker 安装指令与参数配置。
「Infra」频道最新
- 讨论：AI Agent 的数据流向与私有推理的必要性 — Many_Audience7660 · 2026-08-21
- 复现 Anthropic 需 16k 提示词与 25 万美元合成成本 — Ghost_Pilot_MD · 2026-08-21
- Langship：像 Terraform 一样部署 AI Agent 的开源工具 — Many_Audience7660 · 2026-08-21
- 求教：双卡 P100 跑 Qwen 27B 量化版体验如何？ — kirisoraa · 2026-08-21
- 252 美元单卡预训练迷你 Kimi，免费电子书全记录 — joecole · 2026-08-21
- 130 年算力性价比提升 10²² 倍，Kurzweil 图表引热议 — Singularitarian · 2026-08-21