苹果发布 MLX 分布式推理方案:Mac Studio 集群借 RDMA 跑大模型
onethousandmonkey · reddit · 2026-10-16
苹果机器学习研究团队发布基于 MLX 的分布式大模型推理方案，展示如何通过 RDMA 把多台 Mac Studio 组成集群，进行本地与分布式 LLM 推理。RDMA 提供低延迟、高带宽的节点间通信，使多台 Apple Silicon 机器能协同承载超出单机统一内存的大模型。方案细节与配置见苹果机器学习研究博客。
「Infra」频道最新
- Adobe 联手 NVIDIA 优化创意应用：RTX Spark 本地提速至 2 倍 — shashib · 2026-10-16
- Meta 合同承诺单季暴增至 3490 亿美元，服务器内存价格一年涨三倍 — tengyanAI · 2026-10-16
- Meta 发布 Muse Spark Open,vLLM 支撑训练期 RL 推理并首日适配 — colinmcnamara · 2026-10-16
- Meta Muse Spark 开源版需 493GB 内存，16GB 笔记本根本跑不动 — TejasKumar_ · 2026-10-16
- CoreWeave 三日暴跌 20%,信用市场定价五年内违约概率超 60% — kimmonismus · 2026-10-16
- MiniCPM-V 4.7 端侧跑出 17 tokens/s,iPad 仅需约 3GB 内存 — techNmak · 2026-10-16