Qwen 3.8 27B 量化实测:DFlash2 与 MTP 性能对决
Opening-Broccoli9190 · reddit · 2026-08-24
在 RTX 5090 上针对 Qwen 3.8 27B 进行的 llama.cpp 推理测试对比了 DFlash2 与 MTP 两种投机采样技术。结果显示,DFlash2 Q4 提供了最高速度(154 tps),Q2 则在上下文占用上优势明显;MTP 虽然能提供最大上下文,但综合速度与上下文的平衡性不如 DFlash2。测试建议避免使用 Q8 量化。
所属事件:Qwen 3.8 27B 实测 DFlash2 性能表现优异(2 条相关)→
「Infra」频道最新
- 铜转光:机架级光背板成 AI 数据中心下一步设计刚需 — BenBajarin · 2026-10-16
- Polymarket 开出 28% 概率:年内将有美国州级数据中心禁令落地 — Polymarket · 2026-10-16
- 宾州居民拒绝每户 1 万美元补偿,抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16
- PyTorch 原生跑上 AWS Trainium,零代码改动 — PyTorch · 2026-10-16
- 业内爆料:中国实验室算力仅美国 1/10,字节 2-4 倍价扫东南亚算力 — robleclerc · 2026-10-16
- GPU 优化公司 Zymtrace 融资 1220 万美元,招 ML 工程师打造自主调优 Agent — cfregly · 2026-10-16