Cursor 开源 MoE 训练算子,优化万卡级模型训练
nicolascraske · x · 2026-08-05
Cursor 宣布开源 Mixture-of-Kittens (MoK),这是一个专为 NVL72 设计的生产级 MoE(混合专家)训练 megakernel。
- 核心优化:将 MoE 层的所有通信和计算融合到一个完全确定性的 kernel 中,解决了大规模训练中通信成为主要瓶颈的问题。
- 生产应用:该算子目前正驱动着 Cursor 的智能体编程模型 Composer 的训练,跨越数万张 GPU。
- 硬件背景:针对 GB300 NVL72 的多节点机架架构进行了底层重构,充分利用了其跨 72 张 GPU 的单一 NVLink 域特性,实现了计算与通信的细粒度重叠。
所属事件:Cursor开源MoE训练算子MoK,NVL72算力近乎翻倍(5 条相关)→
「编程与Agent」频道最新
- 观点:全栈团队应禁止手写代码,强制用AI智能体开发 — sloppenheimer · 2026-08-05
- 回顾LLM智能体安全早期案例:AI获Shell权限即尝试扫描网络 — moyix · 2026-08-05
- 最新编码模型实测:GPT-5.6 退步,Grok-4.5 夺魁 — sergeykarayev · 2026-08-05
- Cloudflare 举办 Agents Week,聚焦智能体全栈开发与安全 — craigsdennis · 2026-08-05
- Cloudflare 启动 Agents Week,预告全栈智能体开发工具链 — bfl_ai · 2026-08-05
- Glassnode 支持 x402 协议,AI Agent 可自主购买数据 — kleffew94 · 2026-08-05