开发者实测 RTX Spark：Surface 本地跑 27B 模型可用

10 月 18-19 日，开发者 Brad Wardell（X 账号 @draginol）连续发布多篇帖子和视频，分享其在 Surface 硬件上通过 NVIDIA RTX Spark N1X（6144 核 Blackwell GPU、20 核 CPU、64GB 统一内存、Windows 系统）运行本地大模型的实测结果，测试对象包括他个人首选的 Qwen 3.8 27B 与 Gemma 4 12B（Q4KM 量化），并邀请网友在 X 上直接交流质疑。他的总体结论是：RTX Spark 在本地 AI 推理上明显强于游戏笔记本电脑，27B 模型在该平台可以实际使用。

已确认

• Qwen 3.8 27B（稠密模型）实测：prefill 约 671 tok/s（1K 上下文、跳过部分计算），decode 流式输出约 22 tok/s，首 token 延迟约 2.4 秒；在 RTX Spark 上解码 19.3 tok/s，据称准确率 100%。
• Gemma 4 12B（Q4KM）在 RTX Spark 上 prefill 1522 tok/s、decode 31.131.6 tok/s。
• Surface Laptop 上还进行了更严苛的 Extended 模式测试，Qwen 27B 解码 20.7 tok/s。
• draginol 演示在 Surface Pro Ultra 上用本地 Qwen 3.8 27B 快速开发出一个可玩的太空射击小游戏（波次制小行星射击，含计分与生命值），作为实用性演示。
• 他对 Surface Laptop Ultra 的硬件做工评价极高，称其做工水准出色，并发布了快速上手与视频走查，展示如何用这套组合在本地完成各类 AI 任务。

结论与观点

• draginol 判断 RTX Spark 类外接算力设备在本地 AI 推理上碾压游戏本；游戏本两头不讨好——既跑不好大参数模型，跑小模型又不经济。
• 他同时指出，若主要跑 12B 甚至 4B 小模型，Qualcomm、AMD 或 Intel 的 NPU 方案成本低得多、更划算。

为什么重要

• 这是针对 NVIDIA RTX Spark 类设备（DGX Spark 级外接算力）少见的第三方实测数据，给出了 27B 与 12B 模型在 64GB 统一内存消费级平台上的真实吞吐量参考，对考虑本地部署大模型的用户有直接参考价值。

2026-10-18 ~ 2026-10-19 · 11 条相关

事件全程(共 2 集)→

• 第 1 集:开发者实测 RTX Spark：Surface 本地跑 27B 模型可用(2026-10-18,11 条)
• 第 2 集:RTX 5080 游戏本实测本地大模型：27B 受限显存解码仅 9 tok/s(2026-10-19,4 条)

• 【源头】博主实测 Qwen3 27B 稠密模型：首 token 延迟 2.4 秒、prefill 671 tok/s — draginol · 2026-10-18
• 开发者在 Surface Pro 上用 Qwen 27B 本地快速开发小游戏并跑分 — draginol · 2026-10-18
• 实测 Surface Laptop 配 RTX Spark:本地跑 AI 到底行不行 — draginol · 2026-10-18
• Surface 上 RTX Spark 实测 Gemma 4 12b:解码 31.6 tok/s — draginol · 2026-10-19
• 【源头】Qwen3.8 27B 本地实测：RTX Spark 上解码 19.3 tok/s、准确率 100% — draginol · 2026-10-19
• Qwen 3.8 27B 实测登陆 NTX Spark：Surface Laptop Ultra 本地跑主流模型 — draginol · 2026-10-19
• 实测:NVIDIA RTX Spark 本地 AI 性能碾压游戏本 — draginol · 2026-10-19
• 【源头】实测：RTX Spark 跑 27B 模型尚可，游戏本不适合本地 AI — draginol · 2026-10-19
• 博主：跑 4B-12B 小模型，NPU 方案比游戏本便宜得多 — draginol · 2026-10-19

另有 2 条近重复转述:draginol · draginol