MacPaw Elix 号称 Apple 芯片最快推理引擎,33项全胜

JosephJacks_ · x · 2026-11-11

MacPaw 更新其端侧 agentic AI runtime「Elix」后，被称为 Apple 芯片上最快的 LLM 推理引擎。测试在 5 台 Mac 上对比 mlx-lm、mlx-vlm、mlx-serve、vLLM-Metal、llama.cpp、uzu，跑 7 个 LiquidAI 4-bit 模型共 33 组 chip×model：端到端 33/33 全部最快，decode 平均快 37%，32K 上下文下快 43%。

Elix 是面向 Apple 芯片的端侧 AI 运行时，三大组件：用 Swift 声明式写 AI pipeline（编译为 Codable AST，自动做依赖分析与并行调度）、多 App 共享单一 AI 服务与资源、基于 MLX 的推理引擎（针对各芯片有定制 Metal kernel）。目前开发中，需申请 demo。