Prime Intellect 把 DeepSeek MegaMoE 做成可训练，MoE 训练提速最高 55%
samsja19 · x · 2026-10-30
- Prime Intellect 发布 Prime Mega MoE：将 DeepSeek 的 Mega MoE 内核改造为可训练版本，通过在 MoE 层融合计算与通信并补充 backward 内核，显著加快训练栈。
- 在两个 Qwen3 模型上实测：MoE 训练比 TorchTitan 最快提升 55%，用 prime-rl 托管训练最快提升 34%。
- 已支持 BF16、MXFP8、FP8 精度，覆盖 Blackwell 与 Hopper GPU。
「Infra」频道最新
- 4090 24GB 跑原生 3K MiniMax 视频:一个 ComfyUI 节点解决显存崩溃 — friedlc · 2026-10-30
- Baseten 携手 Postman：4000 万开发者的企业 Agent 基建组合 — baseten · 2026-10-30
- AI 泡沫信号:数据中心 AI 债务融资开始变难 — Terminator857 · 2026-10-30
- Ollama:全球企业团队正用其将工作流迁移至开源模型 — ollama · 2026-10-30
- Rogers 卫星漫游扩至日澳新，加拿大手机借 Starlink 通全球 — XFreeze · 2026-10-30
- AWS 布道师发现 macOS 更新回滚:已移除的 eMudhra 证书又回到系统信任库 — kingslyj · 2026-10-30