Surface Laptop RTX Spark 实测 Qwen 27B:解码 20.7 tok/s
draginol · x · 2026-10-19
博主 draginol 在 Surface Laptop 的 NVIDIA RTX Spark N1X(6144-core Blackwell GPU、64GB RAM)上跑本地模型基准,测试的是更严苛的 Extended 模式。
配图显示 Qwen3.8 27B Q4KM(Locama GGUF,35K context)的成绩:
- Prefill:644 tok/s(8K context)
- Decode:20.7 tok/s
- 首 token 延迟:1.73s(1K prompt)
- Accuracy:4/5 任务通过
作者还测了 Gemma 12B,表示稍后会把所有结果汇总发布。
所属事件:RTX Spark 实测:本地跑 27B 模型尚可,性能胜游戏本(4 条相关)→
「Infra」频道最新
- 系列博客开篇：图解 Tensor Core 的算术原理 — akbirthko · 2026-10-19
- 周报盘点：五家厂商在五个层级给 Agent 加控制，桌面 AI 最受关注 — shashib · 2026-10-19
- Hugging Face 开源 AI 周开幕：ExecuTorch 黑客松设三赛道 — Thom_Wolf · 2026-10-19
- 开发者实测:本地模型已能胜任代码审查第一轮,省下前沿 API 费用 — draginol · 2026-10-19
- 月付数百美元 Modal 沙盒太贵,开发者用闲置 Mac Mini 自建编码 Agent 沙盒 — andersonbcdefg · 2026-10-19
- TensorFold 1.1.0 发布:M5 Ultra 上 205k 上下文预填充达 3962 tok/s — GabGarrett · 2026-10-19