RTX 5080 游戏本实测本地大模型：27B 受限显存解码仅 9 tok/s

@draginol 在搭载移动版 RTX 5080、Core Ultra 7 255HX 和 31GB 内存的惠普 Omen 游戏本上实测本地推理：运行 Qwen 27B 时预填充可达 441 tok/s，但因显存装不下完整模型，解码仅 9.1 tok/s，性能明显受损；改跑 Gemma 4 12B（Q4KM GGUF，45K 上下文）则预填充约 1930 tok/s，解码约 49.4 tok/s。结果显示小模型在游戏本上可用性更好，而 27B 档受显存制约明显。

2026-10-19 ~ 2026-10-19 · 4 条相关

• 游戏本实测 Gemma 4 12B：预填充 1926 tok/s，解码仅 49.4 tok/s — draginol · 2026-10-19
• RTX 5080 笔记本实测 Qwen 27B：预填 441 tok/s 但解码仅 9.1 tok/s — draginol · 2026-10-19
• 游戏本本地跑 27B 模型实测:移动版 RTX 5080 显存不够性能受损 — draginol · 2026-10-19
• Gemma 4 12B 本地实测：RTX 5080 笔记本预填充 1937 tok/s — draginol · 2026-10-19