NVIDIA 实测 NVFP4 vs BF16:单张 H100 跑通,显存大省质量损失小

NVIDIA Developer · youtube · 2026-09-15

NVIDIA Developer 频道发布 BF16 与 NVFP4 两种精度的实操对比,使用同时提供两种 checkpoint 的 Nemotron 3.5 Lightning 模型,比较显存占用、吞吐与精度。结论是 NVFP4 较小的 checkpoint 能显著释放 GPU 显存且质量损失不大,视频还说明各自更适用的场景,并附可在单张 H100 上完整复现结果的 notebook。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →