MOSS-Image 5B 完整跑进手机 NPU:骁龙 8+ 出 512x768 图约 30 秒
shirosoro · reddit · 2026-11-08
开源 Android 应用 HexAnima 发布 1.3.0 版,首次把 OpenMOSS 的 MOSS-Image 5B(Apache-2.0)完整跑在手机 Hexagon NPU 上,无需 root、云端或账号。Qwen3.5-9B 文本编码器、5.1B DiT 和 FLUX.2 小 VAE 解码器全部以 8-bit 分块流式加载到 HMX 矩阵单元运行。在骁龙 8+ Gen 1 的小米 12T Pro 上,512x768 约 30 秒、768x1024 约 60 秒、1024x1024 约 80 秒。支持加载任意 MOSS-Image 的 .safetensors LoRA(本地校验合并,强度 0-2),全程不离设备。局限:仅文生图、图内长文字易乱码、需下载约 14GB、目前只支持骁龙 8 Gen 1/8+ Gen 1(Hexagon V69)。作者还自研 HVX/HMX 内核,并修复了 V69 上 Q6Vqf16vsub 指令导致 8-bit 反量化偏差一档的 bug。
「Infra」频道最新
- nanoGPTJAX 作者预告大改版：拆分硬件内核、瞄准 NVFP4 — A_K_Nain · 2026-11-08
- Zyphra 发布 ZHA 树状稀疏注意力,35B 模型只查 1-6% KV 缓存 — burny_tech · 2026-11-08
- llama.cpp 合并新 PR:MoE 未命中专家可直接在 CPU 上跑 — QuixiAI · 2026-11-08
- DGX Spark 价格开始下探 — AIFlow_ML · 2026-11-08
- OpenRouter 上 72% token 已由开源模型处理，企业该备好降级方案 — shashib · 2026-11-08
- CoreWeave CEO:一座数据中心年用水量仅相当于一家甜甜圈店 — aronchick · 2026-11-08