Nativ本地推理实测：LFM2.5在M5 Max上预填充超1.1万tok/s
helloiamleonie · x · 2026-08-05
Nativ是一款开源的macOS本地AI推理应用，支持Apple Silicon，无需云端。最新版本v0.2.2已支持Liquid AI的LFM2.5-2.6B模型，专为agentic和coding工作流设计。在M5 Max（48GB）上，全bf16无量化，预填充速度达11,231 tok/s，解码约84 tok/s，128K上下文仅占用8.5GB内存，批量16时聚合解码476 tok/s。Nativ提供聊天、遥测、多模态支持，并集成MLX-VLM，可连接编码agent。
所属事件:LiquidAI发布LFM2.5模型实现Mac端高速推理(2 条相关)→
「应用」频道最新
- 读取真实相册生成专属剧情：开发者打造反乌托邦AI游戏 — davidfromkansas · 2026-08-05
- 语音 AI 智能体评估实践与消费级市场新机遇 — agihouse_org · 2026-08-05
- 开发者用 OpenAI Codex 自制音乐 VST 插件 — Yamapama · 2026-08-05
- AI工具一键美化GitHub贡献图引热议 — aniketmaurya · 2026-08-05
- OpenAI 分享 o3 深度研究助力破解罕见儿科疾病 — OpenAI · 2026-08-05
- Chrome插件结合WebGPU与Gemma实现本地网页摘要 — jason_mayes · 2026-08-05