Meta 选择 MLX 做本地推理,Muse Spark Open 登陆 Mac Studio

awnihannun · x · 2026-10-16

Meta 官方宣布其开源模型 Muse Spark Open 以 MLX 为首选本地推理平台,在两台 Apple M5 Ultra Mac Studio 上完成优化,mlx-lm 获得 0-day 支持(含视觉能力)。这是 Meta 与 Apple 少见的 CEO 层面技术合作。MLX 团队指出,mlx-lm 的意义在于为新模型提供快速适配的基础,而非与开源推理社区竞争;SGLang、vLLM、TensorRT-LLM、llama.cpp 等主流引擎也获得针对 AMD、Apple、Intel、NVIDIA 芯片的优化。配套博客详细介绍了 MLX + RDMA 在 Mac Studio 上做本地与分布式大模型推理的技术细节。

所属事件:Meta 开源 Muse Spark Open:816B 参数、1M 上下文的美国最强开放模型(78 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →