开源项目 JAX-QNN:让 JAX 原生跑在高通骁龙 AI 引擎上
carrycooldude · x · 2026-09-14
carrycooldude 发布 JAX-QNN v0.1.0 预览版:一个开源 PJRT 后端,可将 StableHLO 直接编译为 Qualcomm AI Engine Direct 执行图,让 JAX 无需 ONNX 封装即可在骁龙芯片上原生运行。作者同步公开了架构深度解析博客、GitHub 仓库与文档,以及后续路线图。
「Infra」频道最新
- Q2 全球前十大晶圆厂营收 535 亿美元,台积电独占 72.5% 份额 — Beth_Kindig · 2026-09-14
- RTX 3090 24G 单卡跑 Qwen3.8 27B INT4,144K 上下文 71/75 评测 — Altruistic_Heat_9531 · 2026-09-14
- Nvidia 单季净利 597 亿美元,日均赚约 6.6 亿美元 — himanshustwts · 2026-09-14
- 极客用 Claude Code 造超小神经网络,M4 芯片跑出 1500 tok/s — GregoryDiamos · 2026-09-14
- 10 美元开发板跑 10 亿参数 LLM:纯 C、零依赖、256MB 内存离线推理 — tom_doerr · 2026-09-14
- AirLLM 逐层流式加载:4GB 显存跑 70B 模型,2.8T Kimi K3 不到 4GB — alex_verem · 2026-09-14