Mac本地跑大模型：Nativ支持LiquidAI LFM2.5，8.5GB内存跑满128K上下文
JosephJacks_ · x · 2026-08-06
开源本地 AI 运行工具 Nativ 宣布 Day 0 支持 LiquidAI 发布的 LFM2.5-2.6B 模型。
在 Apple Silicon（M系列芯片）Mac 上，该模型无需量化（Full BF16）即可流畅运行，性能表现亮眼：
- Prefill 速度：超 11,000 tokens/s
- Decode 速度：82 tokens/s
- 内存占用：峰值低于 8.5GB（即使在完整的 128K 上下文下）
- 并发能力：16 个并发请求下，总吞吐量可达 476 tokens/s
Nativ 是一款专为 macOS 打造的开源应用，基于 MLX-VLM 优化，支持文本、视觉、视频、代码和音频等多模态处理，主打无需账号、无订阅的纯本地化部署。
所属事件:LiquidAI新模型实测Mac本地推理性能强劲(3 条相关)→
「Infra」频道最新
- NYT 调查：被制裁浪潮集团借美国子公司 Aivres 续购 Nvidia 顶级 AI 芯片 — ShakeelHashim · 2026-09-06
- 开源脚本让旧安卓变身 GPU 加速 Linux 桌面或智能家居服务器 — tom_doerr · 2026-09-06
- 两块"奶奶级"P40 跑出 48 tok/s：老显卡llama.cpp 调优实录 — Jumpy-Operation-4615 · 2026-09-06
- 3090+魔改64GB CMP 170HX 双卡跑 H3 频遇 OOM,求固定显存分配方案 — JustinPooDough · 2026-09-06
- Baseten 工程师出书《Inference Engineering》附学习资源清单 — kmeanskaran · 2026-09-06
- Polygres 把 Postgres 变成 AI agent 的混合检索上下文层 — Scobleizer · 2026-09-06