LFM3-Omni-2B 移植 iPhone：完全离线多模态对话达 80 tok/s
JosephJacks_ · x · 2026-11-05
xenovacom 团队将 LiquidAI 的多模态模型 LFM3-Omni-2B 移植到 iPhone 18 Pro Max 上完全离线运行，实现约 80 tok/s 的实时本地对话，靠的是 React Native 应用中的自定义 WebGPU 内核。
团队称实时本地对话 AI 是「让智能平民化」的路径，并征求意见是否上架 App Store。LiquidAI 官方也转发了这一演示。这展示了端侧小模型 + WebGPU 优化在消费手机上跑多模态对话的可行性和速度水平。
所属事件:LFM3-Omni-2B 移植 iPhone 实现完全离线多模态对话(3 条相关)→
「Infra」频道最新
- Marvell 自黄仁勋喊话后暴跌 46%,Gary Marcus 嘲 AI 炒股失灵 — GaryMarcus · 2026-11-05
- megakernel 合并算子,DeepSeek V4.1 Flash 在 AMD 上解码最快提速 2.27 倍 — Electronic-Ebb9771 · 2026-11-05
- Kimi K3.1 Pro 上线 Ollama Cloud：2.8T 参数、美国托管零数据留存 — ollama · 2026-11-05
- Hugging Face 公开模型优化流水线：从 profile 到 kernel 开源分发 — ariG23498 · 2026-11-05
- Reddit 网友提议:用 Agent 把碎片化自定义推理引擎拆解成可复用积木库 — nasone32 · 2026-11-05
- LZ4 v1.11.0 发布:库级多线程压缩,16 线程跑出 7550 MB/s — jedisct1 · 2026-11-05