苹果用 4 台 Mac Studio 本地跑万亿参数模型达 36 token/s

苹果 MLX 团队发布技术文章与教程，展示通过 MLX 框架和基于 Thunderbolt 的 RDMA 驱动，将 4 台 M5 Ultra Mac Studio 组成集群，本地运行近万亿参数的开源前沿模型 Muse Spark Open（816B，权重当日开放），解码速度达到约 36.7 tokens/秒，体现了桌面级硬件运行超大规模模型的可行性。

2026-10-16 ~ 2026-10-16 · 3 条相关

• 苹果实测 4 台 M5 Ultra Mac Studio 跑万亿参数 Muse Spark Open：36.7 tok/s — EAccelerate_42 · 2026-10-16
• 苹果 MLX 让 816B 模型跑在 4 台 Mac Studio 上，36+ tokens/秒 — andrejusb · 2026-10-16

另有 1 条近重复转述:rxwei