Mac本地跑大模型:Nativ支持LiquidAI LFM2.5,8.5GB内存跑满128K上下文
JosephJacks_ · x · 2026-08-06
开源本地 AI 运行工具 Nativ 宣布 Day 0 支持 LiquidAI 发布的 LFM2.5-2.6B 模型。
在 Apple Silicon(M系列芯片)Mac 上,该模型无需量化(Full BF16)即可流畅运行,性能表现亮眼:
- Prefill 速度:超 11,000 tokens/s
- Decode 速度:82 tokens/s
- 内存占用:峰值低于 8.5GB(即使在完整的 128K 上下文下)
- 并发能力:16 个并发请求下,总吞吐量可达 476 tokens/s
Nativ 是一款专为 macOS 打造的开源应用,基于 MLX-VLM 优化,支持文本、视觉、视频、代码和音频等多模态处理,主打无需账号、无订阅的纯本地化部署。
所属事件:LiquidAI新模型实测Mac本地推理性能强劲(3 条相关)→
「Infra」频道最新
- 三星拟将 60-70% 产能签长约,亚马逊微软等成核心客户 — Beth_Kindig · 2026-08-06
- SanDisk高管表态:80%以上毛利率才是公平回报 — firstadopter · 2026-08-06
- 谷歌AI令牌处理量两年增330倍,推理需求激增 — Beth_Kindig · 2026-08-06
- 长上下文成倍放大推测解码收益,接受率逼近100% — DjCanalex · 2026-08-06
- 企业部署AI的灵魂拷问:你的AI到底跑在哪里? — DavidLinthicum · 2026-08-06
- AI 推理需求年增十倍,算力短缺将成常态 — TansuYegen · 2026-08-06