Prime Intellect发布Blackwell优化MoE推理内核，性能大幅提升
afurgs · x · 2026-08-14
Prime Intellect 发布了 Prime Flash MoE，一套针对 Blackwell 架构优化的 MoE 推理 CUDA 内核。该内核融合了路由感知的 GEMM、SwiGLU、量化与归约操作，无需物化中间结果，支持 BF16 和 MXFP8 路径，并在 B200 上进行了基准测试。
所属事件:Prime Intellect 推出 Blackwell 优化 MoE 推理内核(3 条相关)→
「Infra」频道最新
- 得州收紧AI数据中心审批：要求审计电力、水与社区影响 — rohanpaul_ai · 2026-08-15
- 8GB 显存跑 Qwen3.8-27B 仅 5 token/s，如何到可用速度 — SoAp9035 · 2026-08-15
- Harvey 训练垂直模型：Review Table 成本大幅降低 — ypatil125 · 2026-08-15
- TrendForce 上调 AI 加速器出货预测至增长 31% — Beth_Kindig · 2026-08-15
- NInfer 推理引擎 Day-0 支持 Qwen3.8-27B，RTX 5090 上生成速度达 200 tok/s — FormOne2615 · 2026-08-15
- Orion-16B突破100B训练token，采用去中心化算力 — const_reborn · 2026-08-15