Edge AI 活动演示：Android 端上跑 QNN、ExecuTorch、LiteRT 与 Gemma
carrycooldude · x · 2026-09-03
在班加罗尔科技周的 EdgeAI 活动上，演讲主题为「下一个 AI 战场不在云端，而在你的手机」。
内容聚焦 Android 端侧 LLM 推理技术栈：使用 Qualcomm 的 QNN、ExecuTorch 与 LiteRT 部署框架，配合 Google 的 Gemma 模型在设备上运行推理。这是作者在 Bangalore Tech Week 的首场活动。
「Infra」频道最新
- Oxide RFD 26 披露机柜主机操作系统与 Hypervisor 技术选型细节 — Sethwinterroth · 2026-09-03
- NVIDIA 75B 混合 MoE 本地可跑：Mamba+注意力交错，参数量砍至 9.3B 激活 — jacek2023 · 2026-09-03
- 英伟达季收 962 亿美元、传近 129 亿收购 Hugging Face — 20VC · 2026-09-03
- 开源 ArtSmoker:一条提示词直出带贴图可入引擎的 3D 模型 — niravdd · 2026-09-03
- 一次 int8 运算让 late-interaction 检索的精确重打分几乎零成本 — antoine_chaffin · 2026-09-03
- 长上下文本地推理的真正瓶颈是 KV cache 而非参数量 — jonejy · 2026-09-03