Perplexity 转向端侧：敏感数据交给本地小模型处理

HowDevelop · x · 2026-09-07

Perplexity 的 Aravind 在 CNBC 上解释了其「本地半边」策略：前沿模型留在云端，一旦任务触及健康记录或报税等隐私数据，就移交给用户自己硬件上的小模型处理。

作者认为这印证了他的判断：每个 AI 产品最终都会有本地部分，且首要动因是隐私而非成本；难点在于本地模型必须跑在用户已有的任何设备上。相关开源项目 goose-mobile-ondevice-llamacpp 展示了基于 goose 与 Gemma 在高通设备上用 llama.cpp 跑端侧智能体的方案，含 iOS 客户端（已上架 App Store）和实验性 Android 全设备自动化 PoC。