端侧 AI 趋势明确:1B 及以下模型撑起手机级本地 agent
lmoroney · x · 2026-10-15
开发者 Laurence Moroney 观察到,本地 agent 正收敛到只有少量激活参数的模型上,手机级 AI 已在 1B 及以下规模实现。他列举的信号:Liquid 的 2B 激活参数模型、可跑在手机上的 MiniCPM-V 1B,以及更快的 Gemma NPU 构建——三者指向同一趋势:小激活参数模型正在成为端侧本地 agent 的主流选择。
所属事件:小激活参数模型渐成端侧本地 Agent 主流(2 条相关)→
「Infra」频道最新
- Actual 实测 DGX Station 跑出 10k tok/s，推理引擎与 GB300 案例曝光 — natesiggard · 2026-10-16
- 台积电 Q3 营收 467.2 亿美元同比增 41%,Q4 指引超预期 — Beth_Kindig · 2026-10-16
- Neon 发布 Realtime:任意 Postgres 查询变身实时订阅流 — matei_zaharia · 2026-10-16
- 黄仁勋:Nvidia 无需为 CoreWeave 兜底,其资本成本正在下降 — ayushthakur0 · 2026-10-16
- Meta 开源 Muse Spark Open:816B 参数,两台 Mac Studio 可跑 — AIatMeta · 2026-10-16
- 微软发布 MAI-Base-2:2.8 万亿参数 MoE,预训练效率超 DeepSeek 数倍 — ChengleiSi · 2026-10-16