Exo Labs 宣称 Mac Studio 集群内存带宽可达 4.8TB/s 且线性扩展
anonmt57 · reddit · 2026-08-29
Exo Labs 发布了引人注目的宣称:通过其 RDMA 集群方案,M5U Mac Studio 集群的内存带宽可随节点数线性扩展,达到 4.8 TB/s。其员工在 localllm 子版块的相关讨论中表示,在他们方案中关键指标是延迟而非带宽。
发帖人指出,此前社区讨论「两台 96GB M5U 集群 vs 单台 256GB」时,多数人因 TB5 带宽瓶颈而推荐单机——很多人(包括他自己)当时并不知道 Exo 的这些宣称。他最终仍决定保留 256GB 单机订单,理由是未来可再加一台 256GB Studio 同时扩展算力和内存,更灵活;但他认为押注 96GB 集群的风险也值得考虑。
「Infra」频道最新
- Autonomous 推个人 AI 电脑:2.61 万美元起,数据不出房间 — dee_hw · 2026-10-15
- vLLM 量化收益实测：KL 严格为零，吞吐保留 87.5%~91.3%，并开源一致性 agent skill — DynamicWebPaige · 2026-10-15
- vLLM 实现 RL 训练与推理 bitwise 一致，DeepSeek-V4-Flash 100 步零偏差 — vllm_project · 2026-10-15
- vLLM 实现 RL 训练推理 bitwise 一致，解决 KL 飙升掉分难题 — vllm_project · 2026-10-15
- 分析师 Ben Bajarin：行业仍需大量新增算力 — BenBajarin · 2026-10-15
- 新一代 GraalVM 亮相:免构建启动快 4 倍,内存省 50% — RealGeneKim · 2026-10-15