Local Office 本地办公 AI 适配 Windows ARM64:Qwen3 4B 跑 NPU 约 80 tok/s

HowDevelop · x · 2026-11-03

开发者宣布 Local Office(一款纯本地办公 AI 应用)新增 Windows ARM64(Snapdragon)支持,通过高通 GenieX runtime 运行。该应用原为 Mac 应用,已支持 Ubuntu。

核心数据:在 RTX 3060(6GB)笔记本上,Qwen3.5 4B 回答速度约 80 tok/s,OCR 与搜索跑在 CPU 上。应用支持扫描件、PDF、发票,回答带页码引用,数据不出本机。截图显示它按任务分配本地模型:Qwen3 4B 做助手、LightOnOCR-2 1B 做 OCR、Nomic Embed v1.5 做检索、Qwen3 VL 4B 看图表,全部跑在 NPU 上,且模型下载后先测试再切换,失败则保留原模型。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →