LFM3-Omni-2B 跑进 iPhone 17 Pro Max:本地 agent 联网搜索并用模型自带能力生成语音

fuzhongkai · reddit · 2026-11-23

开发者为其开源 .NET 本地推理引擎 TensorSharp 加入了 Liquid AI LFM3-Omni 支持,演示了在 iPhone 17 Pro Max 上本地运行 LFM3-Omni-2B(Q4KM 量化)完成 agent 任务。

演示流程:让 agent 搜索 Anthropic 近期新闻并评估股票是否值得买——模型自主决定联网、调用 web search 工具、处理结果,然后用 LFM3-Omni 原生语音能力生成女声并流式播放回复。关键点在于 LLM 推理和语音生成全部在手机本地完成,语音不是走 iOS TTS 或外部 API,只有搜索本身需要联网。

作者认为这标志着手机端从跑小聊天模型进入本地多模态模型执行 agent 任务、调用工具并语音回复的阶段,推理速度、内存和时延仍有优化空间。引擎与模型均开源,作者附投资内容免责声明。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →