megakernel 合并算子,DeepSeek V4.1 Flash 在 AMD 上解码最快提速 2.27 倍

Electronic-Ebb9771 · reddit · 2026-11-05

Sciforium 团队通过把多个小 GPU 算子合并为单个 megakernel,让 DeepSeek V4.1 Flash 1017 在 AMD MI325X 上的解码速度提升最高 2.27 倍,且无精度损失。在权重不变、仅改解码内核的情况下,代码生成、数学、写作与通用问答工作负载均有改善。

对 agent 工作负载的启示:模型选型只是性能方程的一部分,内核与推理栈优化可以在不改动模型的前提下显著改善延迟、吞吐与基础设施效率。该公司自营 GPU(非租用),其 serverless API 定价目前比所对比的主流推理厂商标准价低 50%。