Local Office 本地办公 AI 适配 Windows ARM64:Qwen3 4B 跑 NPU 约 80 tok/s
HowDevelop · x · 2026-11-03
开发者宣布 Local Office(一款纯本地办公 AI 应用)新增 Windows ARM64(Snapdragon)支持,通过高通 GenieX runtime 运行。该应用原为 Mac 应用,已支持 Ubuntu。
核心数据:在 RTX 3060(6GB)笔记本上,Qwen3.5 4B 回答速度约 80 tok/s,OCR 与搜索跑在 CPU 上。应用支持扫描件、PDF、发票,回答带页码引用,数据不出本机。截图显示它按任务分配本地模型:Qwen3 4B 做助手、LightOnOCR-2 1B 做 OCR、Nomic Embed v1.5 做检索、Qwen3 VL 4B 看图表,全部跑在 NPU 上,且模型下载后先测试再切换,失败则保留原模型。
「Infra」频道最新
- 维修技师爆料:RTX 5090 将推 64GB 与 96GB 显存版本 — MundanePercentage674 · 2026-11-03
- 韩媒:三星 Taylor 二期厂未开建已被 AMD 与 NVIDIA HBM 基底芯片订满 — zephyr_z9 · 2026-11-03
- QLink 核心洞察:一个模型的 store 就是对另一个模型的合法内存写 — zeeshanp_ · 2026-11-03
- 4 个 QwenGPU 集合通信结果与真实 NCCL 逐位一致 — zeeshanp_ · 2026-11-03
- 神操作:把 GPU 编译进 Qwen 权重,用模型解码跑 CUDA 内核 — zeeshanp_ · 2026-11-03
- 英国 Isambard-AI 开放申请:初创公司可获最多 100 万 GPU 小时 — bodonoghue85 · 2026-11-03