苹果开源 MLX 支持多台 Mac Studio 跨机 RDMA 分布式大模型推理
Apple ML Research · rss · 2026-10-15
Apple ML Research 发布文章,介绍如何使用 MLX 在多台 Mac Studio 上通过 RDMA 实现本地及分布式大模型推理。
文章展示了在本地集群条件下跨节点联合推理的方案,为没有高端 GPU 数据中心的开发者提供了一条用 Apple Silicon 跑大模型的路径。
「Infra」频道最新
- Adobe 联手 NVIDIA 优化创意应用:RTX Spark 本地提速至 2 倍 — shashib · 2026-10-16
- Meta 合同承诺单季暴增至 3490 亿美元,服务器内存价格一年涨三倍 — tengyanAI · 2026-10-16
- Meta 发布 Muse Spark Open,vLLM 支撑训练期 RL 推理并首日适配 — colinmcnamara · 2026-10-16
- Meta Muse Spark 开源版需 493GB 内存,16GB 笔记本根本跑不动 — TejasKumar_ · 2026-10-16
- CoreWeave 三日暴跌 20%,信用市场定价五年内违约概率超 60% — kimmonismus · 2026-10-16
- MiniCPM-V 4.7 端侧跑出 17 tokens/s,iPad 仅需约 3GB 内存 — techNmak · 2026-10-16