Andrew Chen：强 LLM 离跑上手机还很远，端侧 AI 原生体验待突破

andrewchen · x · 2026-09-21

a16z 的 Andrew Chen 探讨端侧 AI 的前景：当前强 LLM 距离在手机上原生运行还很远，瓶颈包括内存带宽慢、只有高度量化的 MoE 模型能塞进去、功耗与发热问题等。下一代手机的 NPU 正在研发中，但目标也只是中等规模的 LLM。

他认为大量移动端 UX 场景——通知、打字/短信、收件箱、日历等应用内体验——都会受益于快速、便宜的 AI 决策模型。他还提出一个设想：把一个「旧但够用」的模型直接固化进手机芯片（model-on-a-chip），并猜测 Jevons 式的效率模型可能会加速这一进程。