Mooncake 加入 MUSA GPU 支持,解锁非 NVIDIA 硬件端到端测试
teortaxesTex · x · 2026-07-25
Mooncake 新增 MUSA 构建支持,打通非 NVIDIA 硬件测试
这条帖子对应一个 GitHub PR:给 Mooncake 的 PG(ProcessGroup)模块加入 MUSA GPU 支持。核心动机很实际——如果没有可用的 MUSA PG 后端,EP 测试只能走回退路径,没法在非 NVIDIA 硬件上做有意义的端到端验证。
帖子还列出了一串迫使重构的编译器限制:
- mcc 不能解析 PyTorch 头文件。
- 不能处理 c10d::OpType、c10d::ReduceOp::RedOpType 这类枚举类型。
- 宿主代码不能直接用 <<<>>> 启动 kernel。
- MUSA 不支持 CUDA Graph,需要把相关路径 #ifdef 掉。
- mtbfloat16 缺少算术运算符,因此 reduction 需要用 float 累加。
「Infra」频道最新
- Broadcom 称 AI 芯片收入达 160 亿美元,AMD 也拿下大客户 — YvesMulkers · 2026-07-26
- WAIC 2026 机器人热潮,llama.cpp 主讲端侧多模态 agent — ngxson · 2026-07-25
- LTX2.3 在 7800XT 上 12.5 分钟生成 20 秒视频 — okfine1337 · 2026-07-25
- Bittensor TAO 生态地图曝光,覆盖算力代理与安全等数十子网 — 0xSammy · 2026-07-25
- Mooncake v0.3.12 加入 SSD KV 缓存池和智能路由 — BanghuaZ · 2026-07-25
- 企业用户求解:百万美元算力预算下,哪些模型最省前沿 token — mimic751 · 2026-07-25