CoreAI Zoo 上架 App Store:iPhone 本地跑 Qwen/Gemma 等开源模型
pcuenq · x · 2026-09-19
- CoreAI Zoo 已上架 App Store（免费，BSD-3-Clause 开源），基于新的 CoreAI 端侧框架，可在 iPhone、iPad 和 Apple silicon Mac 上完全本地运行开源模型，无需账号和服务器，数据不出设备。
- 能力覆盖：聊天（Qwen3、Gemma、LFM2.5、Granite、Mistral 等，0.6B 到 30B+ 视设备内存）；视觉问答与 OCR（Qwen3-VL、MiniCPM-V）；语音转写（Whisper large-v3-turbo、Parakeet）与语音/音乐生成；相机实时深度估计、目标检测（YOLOX）与超分；还有扩散语言模型等实验性模型。
- 技术实现：全部通过 Core ML 跑在 Apple silicon 上，权重首次从 Hugging Face Hub 下载后缓存、可离线使用；同一时刻只驻留一个模型以控制内存；新模型通过在线目录更新，无需升级 App。内置 BENCH 可测加载时间、tokens/s 和内存占用。
- 上手建议：从 454 MB 的 Qwen3-0.6B 开始，较新的 iPhone Pro 或 Apple silicon Mac 可流畅跑中等规模模型。
「Infra」频道最新
- Jev 扩容幕后：Modal 成其仅有的四个子处理商之一 — AAAzzam · 2026-09-19
- 双3090上调Qwen3 27B编码Agent：单轮等待从28秒降到7秒 — bolts98 · 2026-09-19
- AgentZip:并行沙箱内存去重,压缩比达 8.7 倍 — rohanpaul_ai · 2026-09-19
- 美国公司悄悄换用中国开源模型，内部知识库成本降约百倍 — generativist · 2026-09-19
- 燃气轮机卖到2030年,数据中心电力设备积压长达数年 — CatAstro_Piyush · 2026-09-19
- OpenAI 与 Anthropic 竞相收购 20-30 兆瓦小数据中心,推理需求 2027 年超训练 — abhiadesai · 2026-09-19