Laurence Moroney:小激活参数模型正成为本地 Agent 的主流形态

lmoroney · x · 2026-10-15

前 Google AI 布道师 Laurence Moroney 撰文指出,本周多起发布汇聚成同一趋势:本地 Agent 正转向「总参数大、激活参数小」的 MoE 模型,手机级 AI 则落在 1B 及以下。他解释:推理速度取决于激活参数(每 token 计算量),内存占用取决于总参数(所有专家都要加载),因此「大总参+小激活」能以小模型的单 token 成本获得大模型的知识容量,天然适合生成大量 token 的 Agent 工作流。案例包括 Liquid AI 10 月 13 日发布的 LFM2.5-24B-A2B(24B 总参、约 2B 激活,64 专家 top-4 路由,131K 上下文,官方称 Apple M5 Max 解码 184 tok/s、AMD Ryzen AI Max+ 395 达 114 tok/s)、手机端 MiniCPM-V 1B 及更快的 Gemma NPU 版本。