游戏本本地跑 27B 模型实测:移动版 RTX 5080 显存不够性能受损
draginol · x · 2026-10-19
作者 @draginol 分享了在游戏笔记本上本地运行 27B 模型的详细测试结果。该本搭载移动版 NVIDIA RTX 5080,但显存不足以完整装下 27B 模型,导致性能明显受损。作者贴出了详细的测试数据链接。这是一个典型的端侧部署限制案例:笔记本级 GPU 的显存是本地跑大模型的主要瓶颈。
所属事件:RTX 5080 游戏本实测本地大模型：27B 受限显存解码仅 9 tok/s(4 条相关)→
「Infra」频道最新
- DeepInfra 回忆录：B200 租金降到 $1.49/小时仍无人问津 — gharik · 2026-10-19
- SK 海力士谈 HBF:带宽约为 HBM 一半,容量高出 14 倍 — Beth_Kindig · 2026-10-19
- 从业者：KV cache 压缩已让 1M 上下文可控,年内应见 2.5M 模型 — khademinori · 2026-10-19
- 马斯克发帖吐槽：租 AI 算力到底是一种什么体验 — elonmusk · 2026-10-19
- 系列博客开篇：图解 Tensor Core 的算术原理 — akbirthko · 2026-10-19
- 周报盘点：五家厂商在五个层级给 Agent 加控制，桌面 AI 最受关注 — shashib · 2026-10-19