两台 £300 骁龙迷你 PC 无 GPU 跑 Qwen3.8 Flash Next，实测 46 tok/s

WorldlyAd7946 · reddit · 2026-10-22

Reddit r/LocalLLaMA 用户用两台 £300 的联想 IdeaCentre Mini（Snapdragon X Elite，8 核 Oryon + Hexagon NPU，32GB LPDDR5）经一条 USB4 线串联，在无任何 GPU 的情况下本地运行大模型：

• 硬件与引擎：作者从 llama.cpp 转向开源引擎 Janas，向其贡献了 ARM NEON 内核、Windows on ARM 构建和缓存修复，之后自研引擎 ToRc（未发布）用于测试。
• 跑分（prose 基准，读/写）：单机 ToRc 达 228/43.4 tok/s，MTP 加持下生成 49.5 tok/s，对比 llama.cpp 单机的 133.8/25.8 提升明显。
• 模型：Qwen3.6 35B A3B（Q40，19.4GB，带 MTP 头）与 Qwen3.8 Flash Next（IQ4NL 95GB / UD-Q4KXL 104GB）。
• 代码实测：ISO 8601 时长解析函数任务上，各引擎生成的代码基本都能通过自测与 6 项参考检查。

整体展示了 ARM 迷你主机 + CPU/NPU 推理引擎的性价比路线：约 £600 双机即可流式运行百 GB 级量化模型。

原文链接 →

「编程与Agent」频道最新

• Meta 论文 MemoProBench:前沿模型主动介入记忆任务最高仅 15% — RulinShao · 2026-10-23
• Agentic AI 基金会新增四大项目：Anthropic、OpenAI、阿里均捐入中立之家 — rseroter · 2026-10-23
• Matt Pocock发问:如何定义spec-driven development — mattpocockuk · 2026-10-23
• 让 Agent 把想读的内容自动推送到 Kobo 电纸书 — lucasmeijer · 2026-10-23
• Thorsten Ball 演示在 exe.dev VM 上用 Docker 快速拉起新 orb 机器 — davidcrawshaw · 2026-10-23
• 开发者吐槽 Claude 满嘴谄媚腔，Gemini Astra 表现明显更好 — ctjlewis · 2026-10-23

更多「编程与Agent」频道 AI 资讯 →