Mooncake 加入 MUSA GPU 支持,解锁非 NVIDIA 硬件端到端测试
teortaxesTex · x · 2026-07-25
Mooncake 新增 MUSA 构建支持,打通非 NVIDIA 硬件测试
这条帖子对应一个 GitHub PR:给 Mooncake 的 PG(ProcessGroup)模块加入 MUSA GPU 支持。核心动机很实际——如果没有可用的 MUSA PG 后端,EP 测试只能走回退路径,没法在非 NVIDIA 硬件上做有意义的端到端验证。
帖子还列出了一串迫使重构的编译器限制:
- mcc 不能解析 PyTorch 头文件。
- 不能处理 c10d::OpType、c10d::ReduceOp::RedOpType 这类枚举类型。
- 宿主代码不能直接用 <<<>>> 启动 kernel。
- MUSA 不支持 CUDA Graph,需要把相关路径 #ifdef 掉。
- mtbfloat16 缺少算术运算符,因此 reduction 需要用 float 累加。
「Infra」频道最新
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11
- 7900 XTX 24GB 能否跑 Qwen,Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人:现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11