RTX 5090本地跑MiniMax H3:int8与nvfp4量化版怎么选?

Zerozone000 · reddit · 2026-08-10

随着英伟达 Blackwell 架构新卡的到来,用户针对本地部署 MiniMax H3 模型提出了硬件适配疑问。

目前社区普遍倾向于选择 int8 convrot 版本,但 Hugging Face 上也出现了针对新架构优化的 prunednvfp4convrotint8 模型。发帖者希望了解在体积相近的情况下,这两种量化方案在 5090 上是否存在性能差异,以及 Blackwell 架构是否能让 nvfp4 格式发挥更大优势。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →