Exo Labs 宣称 Mac Studio 集群内存带宽可达 4.8TB/s 且线性扩展

anonmt57 · reddit · 2026-08-29

Exo Labs 发布了引人注目的宣称:通过其 RDMA 集群方案,M5U Mac Studio 集群的内存带宽可随节点数线性扩展,达到 4.8 TB/s。其员工在 localllm 子版块的相关讨论中表示,在他们方案中关键指标是延迟而非带宽。

发帖人指出,此前社区讨论「两台 96GB M5U 集群 vs 单台 256GB」时,多数人因 TB5 带宽瓶颈而推荐单机——很多人(包括他自己)当时并不知道 Exo 的这些宣称。他最终仍决定保留 256GB 单机订单,理由是未来可再加一台 256GB Studio 同时扩展算力和内存,更灵活;但他认为押注 96GB 集群的风险也值得考虑。