Google 说边缘 AI 卡在内存，微型模型已能上设备
AI Engineer · youtube · 2026-07-26
Google AI Edge 的观点很直接：边缘 AI 的瓶颈不是算力，而是内存，而且这个问题还在变严重。
- 一款 20 亿参数 Gemma 被量化到 每权重 2.9 bit 后，能在 Raspberry Pi 上跑到约 8 tokens/s，在 Qualcomm NPU 上也能做到每秒几帧的视觉推理。
- 更小的 5 亿到 500 万参数 模型面向老笔记本和低价设备，这类场景里通常要靠 微调，而不是纯提示词。
- 他们给出的落地案例是一个 离线语音转写 应用：用两个 10 亿参数以下 的 Gemma 模型实现，而且还能顺带去掉语气词。
- 视频里还展示了 AI Edge Gallery 和一个小型机器人 demo。
「具身」频道最新
- ECCV26 口头论文：流匹配实现多视角点云配准 — ducha_aiki · 2026-09-11
- 波兰开发者做 iPhone 应用 可探测附近的 Meta 智能眼镜 — Low-Honeydew6483 · 2026-09-11
- 蚂蚁阿福用户达 1.5 亿，外滩大会展示 AI+硬件健康管理联盟 — APPSO · 2026-09-11
- JHU 开设全栈机器人学习课:组装机械臂、采数训练部署一条龙 — _krishna_murthy · 2026-09-11
- SyncWorld:少量视觉校准即可零样本模拟机器人跨视角交互 — ChongZzZhang · 2026-09-11
- 狗类 3D 姿态数据集发布，动物动捕研究可用 — ducha_aiki · 2026-09-11