Cursor Open-Sources MoK Megakernel, Nearly Doubling NVL72 MoE Performance

Cursor 宣布开源名为 Mixture-of-Kittens (MoK) 的混合专家模型（MoE）训练超级算子，专为 GB300 NVL72 架构设计。官方宣称该技术能将近乎翻倍 TFLOP/s 的性能表现，为 MoE 架构提供显著的算力红利，引发业界对大规模模型训练效率的关注。

已确认

核心优化机制：MoK 将所有 MoE 相关的通信和计算融合到一个完全确定性的单一内核中，支持跨 GPU 通信。
性能提升表现：官方及转发信息指出，该算子在 NVL72 架构前向传播中实现超过 2 倍的提速，整体算力近乎翻倍。
适用场景定位：这是一个生产级算子，旨在解决和优化万卡级别大规模模型训练中的瓶颈融合问题。

为什么重要

随着大模型参数与规模指数级增长，MoE 架构的跨设备通信与计算瓶颈成为限制算力释放的关键。MoK 通过极致的内核融合方案，显著提升了 NVL72 系统的训练吞吐量，为降低超大模型训练成本和提升硬件利用率提供了重要的技术路径。

2026-08-05 ~ 2026-08-05 · 5 related posts

Primary sources

Cursor Releases Mixture-of-Kittens Megakernel for MoE, Claims Nearly 2x TFLOP/s — CapnHat · 2026-08-05 01:26 (UTC+08:00)
Cursor Open-Sources MoK: MoE Training Megakernel for NVL72 with 2x+ Forward Speedup — eliebakouch · 2026-08-05 00:10 (UTC+08:00)
Cursor Open-Sources MoK: A Deterministic MoE Megakernel for NVL72s — StasBekman · 2026-08-05 00:35 (UTC+08:00)

[source] Cursor Open-Sources MoK: MoE Training Megakernel for NVL72 with 2x+ Forward Speedup — eliebakouch · 2026-08-05
HazyResearch Open-Sources MoK: A Fused MoE Megakernel for NVL72 — HazyResearch · 2026-08-05
[source] Cursor Releases Mixture-of-Kittens Megakernel for MoE, Claims Nearly 2x TFLOP/s — CapnHat · 2026-08-05

2 near-duplicate retellings: StasBekman · nicolascraske