Nativ本地推理实测:LFM2.5在M5 Max上预填充超1.1万tok/s
helloiamleonie · x · 2026-08-05
Nativ是一款开源的macOS本地AI推理应用,支持Apple Silicon,无需云端。最新版本v0.2.2已支持Liquid AI的LFM2.5-2.6B模型,专为agentic和coding工作流设计。在M5 Max(48GB)上,全bf16无量化,预填充速度达11,231 tok/s,解码约84 tok/s,128K上下文仅占用8.5GB内存,批量16时聚合解码476 tok/s。Nativ提供聊天、遥测、多模态支持,并集成MLX-VLM,可连接编码agent。
所属事件:LiquidAI新模型实测Mac本地推理性能强劲(3 条相关)→
「应用」频道最新
- Peter Deng 消费者 AI 访谈要点:押注核心产品而非追逐热点 — lennysan · 2026-09-22
- GPT-6 Astra 造出「IdleGPU 3D」:经营你自己的前沿 AI 实验室 — ikostrikov · 2026-09-22
- SoundBoost 推出音乐视频生成器,一键产出完整 MV 素材包 — TheChuckTone · 2026-09-22
- 开源无限后室游戏 vackrooms:全程用 Claude 写成 — pablostanley · 2026-09-22
- 「帮我订机票」不该成按钮:一帖吐槽 agent 自动化的最坏用例 — willcb · 2026-09-22
- Meta Muse 实测:15 分钟自动整理散落 Gmail 的全年报销账目 — armand_ruiz · 2026-09-22