3x3090 换 2x5090:NVFP4+投机解码实测提速明显

CompetitiveDraft9381 · reddit · 2026-09-28

作者把家庭服务器的 3 张 RTX 3090 升级为 2 张 RTX 5090,并在同一 Q8 模型上对比了三种配置的推理速度:旧 3x3090、新 2x5090、以及开启 NVFP4 + 投机解码后的 2x5090,后两者速度逐级提升。

采购与回血账:

作者注明旧配置中有一张 3090 插在较慢的 PCIe 槽上,基准略低于理想状态;并欢迎读者提出其他想看的 benchmark。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →