开发者探索用动态配置文件扩展 Apple 端侧 AI 能力

Google 团队和社区开发者先后发布对 Apple Foundation Model 框架的深度解析与实测。该框架提供免费、私有、低延迟的 Swift 端侧推理,但受设备内存和算力限制,上下文窗口仅 8k 且推理能力较弱。文章介绍了基于动态配置文件(Dynamic Profiles)的混合路由方案,将请求在端侧模型与更强模型间分流,以在保留隐私与低成本优势的同时弥补能力短板。

2026-08-18 ~ 2026-08-19 · 2 条相关