Swordfish 推理内核发布
AlpinDale · x · 2026-07-13
介绍了 **Swordfish Kernel**：一个面向 Blackwell SM100 架构的 **weight-only inference kernel**，作者称它是 Marlin 和 Machete 的后继方案，目标是在数据中心级 Blackwell GPU 上最大化吞吐。 文中给出两组核心结果： - 在 **B200** 上做 **INT4 inline dequantization**，性能可达到 **约 90% 的 cuBLAS BF16**。 - 在 **Jetson Thor** 上，性能可达到 **约 95% 的内存带宽**。 作者表示这是自己研究 Blackwell 架构后的成果，并将配套博客和源码一并公开。