CoreAI Zoo 上架 App Store:iPhone 本地跑 Qwen/Gemma 等开源模型

pcuenq · x · 2026-09-19

CoreAI Zoo 已上架 App Store（免费，BSD-3-Clause 开源），基于新的 CoreAI 端侧框架，可在 iPhone、iPad 和 Apple silicon Mac 上完全本地运行开源模型，无需账号和服务器，数据不出设备。
能力覆盖：聊天（Qwen3、Gemma、LFM2.5、Granite、Mistral 等，0.6B 到 30B+ 视设备内存）；视觉问答与 OCR（Qwen3-VL、MiniCPM-V）；语音转写（Whisper large-v3-turbo、Parakeet）与语音/音乐生成；相机实时深度估计、目标检测（YOLOX）与超分；还有扩散语言模型等实验性模型。
技术实现：全部通过 Core ML 跑在 Apple silicon 上，权重首次从 Hugging Face Hub 下载后缓存、可离线使用；同一时刻只驻留一个模型以控制内存；新模型通过在线目录更新，无需升级 App。内置 BENCH 可测加载时间、tokens/s 和内存占用。
上手建议：从 454 MB 的 Qwen3-0.6B 开始，较新的 iPhone Pro 或 Apple silicon Mac 可流畅跑中等规模模型。

「Infra」频道最新