高通新 Hexagon NPU:共享内存增大 50%,手机可跑 30B MoE 模型

ryanshrout · x · 2026-09-11

Snapdragon Summit 前瞻第三篇:高通公布下一代 Hexagon NPU 细节,包括融合向量与标量扩展、面向 transformer 负载的 Element Accelerator,共享内存池较 Snapdragon 8 Elite Gen 5 增大 50%,并支持最高 30B 参数的 MoE 模型。

性能宣称(对比 8 Elite Gen 5):INT4 模型 pre-fill 性能提升最高 50%,首 token 时间最低 1.5 秒。

文章指出手机上跑 MoE 本质是存储问题:30B MoE 需保持数百亿参数可用,但每 token 仅激活约 3B 路由参数,使单 token 计算量保持在手机功耗预算内,模型行为却接近大得多的模型。

原文链接 →

「具身」频道最新

更多「具身」频道 AI 资讯 →