Prime Intellect发布Blackwell优化MoE推理内核，性能大幅提升
afurgs · x · 2026-08-14
Prime Intellect 发布了 Prime Flash MoE，一套针对 Blackwell 架构优化的 MoE 推理 CUDA 内核。该内核融合了路由感知的 GEMM、SwiGLU、量化与归约操作，无需物化中间结果，支持 BF16 和 MXFP8 路径，并在 B200 上进行了基准测试。
所属事件:Prime Intellect发布Prime Flash MoE，优化Blackwell推理(3 条相关)→
「Infra」频道最新
- 开发者在 Colab 持续预训练 Luganda 语小模型，8 小时跑到 41% — weskambale · 2026-10-16
- 黄仁勋披露：每 GPU 年收约数千美元软件费，成 NVIDIA 重要收入线 — rohanpaul_ai · 2026-10-16
- 开发者亲测：几万块 V100 本地部署 DeepSeek，不如直接订阅 Claude — lxfater · 2026-10-16
- 公开喊话 neocloud：我愿买 3 万美元 GPU 算力，给个折扣吗 — Sauers_ · 2026-10-16
- 拿到新硬件就开跑：垃圾佬第一时间本地部署模型 — lxfater · 2026-10-16
- Together AI 提出 Score Centering:量化推理下 RL 训练不再崩 — nrehiew_ · 2026-10-16