FastVideo发布B300 FP4注意力核，推理加速1.69倍
charles_irl · x · 2026-07-07
FastVideo团队发布了一套专为NVIDIA Blackwell B300架构优化的FP4精度注意力计算核（attention kernels），相比现有基准实现最高1.69倍的推理加速，可直接降低视频生成模型的推理延迟与计算成本。 该成果针对B300新硬件特性进行深度适配，是视频推理加速方向的工程落地进展。
charles_irl · x · 2026-07-07
FastVideo团队发布了一套专为NVIDIA Blackwell B300架构优化的FP4精度注意力计算核（attention kernels），相比现有基准实现最高1.69倍的推理加速，可直接降低视频生成模型的推理延迟与计算成本。 该成果针对B300新硬件特性进行深度适配，是视频推理加速方向的工程落地进展。