RTX 5080 笔记本实测 Qwen 27B：预填 441 tok/s 但解码仅 9.1 tok/s
draginol · x · 2026-10-19
draginol 继续其游戏本本地跑模型系列，这次测 27B 档：配图显示 RTX 5080 Laptop GPU + Core Ultra 7 255HX + 31GB RAM 上以 llama.cpp/Locama GGUF 跑 Qwen 27B Q4KM（32K 上下文），prefill 达 441 tok/s，但解码仅 9.1 tok/s，1K prompt 首 token 延迟 2.91 秒——5080 移动版显存吃不下 27B，性能明显受损。他此前测的 12B 也受 CPU 降频拖累。结论：移动级 5080 跑 27B 勉强可用但体验糟糕，本地部署仍需更大显存。
所属事件:RTX 5080 游戏本实测本地大模型：27B 受限显存解码仅 9 tok/s(4 条相关)→
「Infra」频道最新
- 开发者实测:本地模型已能胜任代码审查第一轮,省下前沿 API 费用 — draginol · 2026-10-19
- 月付数百美元 Modal 沙盒太贵,开发者用闲置 Mac Mini 自建编码 Agent 沙盒 — andersonbcdefg · 2026-10-19
- TensorFold 1.1.0 发布:M5 Ultra 上 205k 上下文预填充达 3962 tok/s — GabGarrett · 2026-10-19
- 博主：跑 4B-12B 小模型，NPU 方案比游戏本便宜得多 — draginol · 2026-10-19
- 实测：RTX Spark 跑 27B 模型尚可，游戏本不适合本地 AI — draginol · 2026-10-19
- Nebius 通过 NVIDIA Exemplar Cloud 认证：HGX B300 训练环境获官方背书 — DavidLinthicum · 2026-10-19