Locals 让 MacBook 多 Agent 并行提速 3 倍,LFM3 跑出 620 tok/s

JosephJacks_ · x · 2026-10-29

Liquid AI 发布新一代 Liquid Foundation Models(LFM3)系列,采用 tri-hybrid 混合架构并加入多模态编码器,覆盖文本、音频、视觉与 omni 模态共 6 个模型实例:LFM3-1.7B 文本模型支持 256k 上下文,LFM3-VL-2B 支持视频输入的空间理解,LFM3-Audio-2B 支持工具调用与 18 语言语音推理,LFM3-Omni-2B 融合视觉/音频/语言,另有 d1 系列单次前向输出校准概率的决策模型。

配套开源项目 Locals(Generated-Computers)可在 Mac 上同时跑多个 AI Agent,自定义 harness 把问题拆分为子问题并行执行:M2 16GB 上 LFM3-1.7B 达 620 tok/s(比 mlx-lm 快 3 倍),M4 24GB 上 Flint 40B 达 319 tok/s(快 1.6 倍),8 个 agent 并行下仍保持单流体验。项目 Apache-2.0 开源,已获 416 star。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →