前沿模型开始吃上内核优化红利
HazyResearch · x · 2026-07-18
这条引用帖在说，混合线性注意力、KernelBench、全模型 megakernels 这些学术和工程方法，已经开始被真正用到前沿模型的构建与评测中。 作者特别提到： - hipkittens 现在在 AMD 的 aiter 里，已经能提供最快的 MLA decode 和 dsv4 decode kernels。 - 这件事说明学术研究并不是“只停留在论文里”，而是会直接影响模型推理内核的性能。 整体重点不是某个模型结论，而是 kernel 级优化和研究到工程落地的连接。