Mac本地跑大模型:Nativ支持LiquidAI LFM2.5,8.5GB内存跑满128K上下文
JosephJacks_ · x · 2026-08-06
开源本地 AI 运行工具 Nativ 宣布 Day 0 支持 LiquidAI 发布的 LFM2.5-2.6B 模型。
在 Apple Silicon(M系列芯片)Mac 上,该模型无需量化(Full BF16)即可流畅运行,性能表现亮眼:
- Prefill 速度:超 11,000 tokens/s
- Decode 速度:82 tokens/s
- 内存占用:峰值低于 8.5GB(即使在完整的 128K 上下文下)
- 并发能力:16 个并发请求下,总吞吐量可达 476 tokens/s
Nativ 是一款专为 macOS 打造的开源应用,基于 MLX-VLM 优化,支持文本、视觉、视频、代码和音频等多模态处理,主打无需账号、无订阅的纯本地化部署。
所属事件:LiquidAI新模型实测Mac本地推理性能强劲(3 条相关)→
「Infra」频道最新
- 24G 内存 MacBook 跑 Qwen-Image 本地生图:一张要 5-6 分钟 — vista8 · 2026-09-22
- Cerebras CEO:做到 500 亿营收才懂黄仁勋五万亿有多难 — rohanpaul_ai · 2026-09-22
- 腾讯混元把 770B 模型压进 214 GiB:四权重五比特 — TencentHunyuan · 2026-09-22
- 语义缓存加共形风险控制,实测保证在线上失效 — Reasonable_Royal_621 · 2026-09-22
- 456GB 的 DeepSeek v4.1 本地跑出 40 tok/s,混合推理方案公开 — HankYeomans · 2026-09-22
- 开源项目 Agent Substrate:子秒级挂起恢复,大规模智能体运行时 — rakyll · 2026-09-22