开发者探讨用 Mac Studio 集群低成本跑 291B 大模型

开发者 @stevenzhang 展示了由四台 Mac Studio 组成的本地推理集群，通过支持 RDMA 的 Thunderbolt 5 环形网络连接四颗 Ultra 芯片，运行 291B 参数模型。Hugging Face 的 multimodalart 则在讨论中给出更低成本方案：仅需两台 512GB 内存的 Mac Studio 即可运行该模型，成本比原方案低一个数量级。

2026-08-28 ~ 2026-08-28 · 2 条相关