Meta 开源 816B 模型 Muse Spark Open,Apple 调优 MLX 上 Mac

rohanpaul_ai · x · 2026-10-16

Meta 发布开放权重模型 Muse Spark Open,参数量 816B,Apple 为其 MLX 框架做了调优,可跑在两台互联的 Mac Studio 上。模型采用 MoE 架构:256 个专家中每个 token 只激活 8 个、约 42B 参数,因此每步只需读取少量内存。难点在于容纳整个模型——4-bit NVFP4 版本至少需要 700GB 显存;每台 M5 Ultra Mac Studio 可为 GPU 提供最高 512GB 统一内存,两台即可装下模型,1.2TB/s 带宽供每个 token 使用。基准测试中该模型登顶 MCP-Atlas。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →