MachGen 开源 Blackwell 版 VC Attention:比 BF16 FlashAttention 快约 2 倍

MiniMax_AI · x · 2026-10-08

推理公司 MachGenAI 宣布开源其面向 NVIDIA Blackwell 的 VC Attention 变体:在 B200 上达到 BF16 FlashAttention 约 2 倍速度,用于 MiniMax H3 等模型。团队在原论文基础上做了多项改进,性能再提升 20% 以上,现已达到其生产环境稠密注意力核的约 30% 以内,且所需校准大幅减少、无需微调。

作者强调推理优化 = kernel + recipe:强 kernel 把硬件推向极限,好 recipe 把速度变成真实系统;强 kernel 开源后,原本一家公司的护城河可以变成所有人的地基。适合关注 Blackwell 推理优化的工程团队。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →