本地跑13B模型要多少显存？8GB与16GB之争
close_Meal6005 · reddit · 2026-08-25
楼主想买一块专用 GPU 跑本地模型，发现社区说法不一：有人说 8GB 显存就能跑 13B 模型，也有人说至少要 16GB。他发帖询问大家的实际体验——8GB 显存到底能不能跑，还是会慢到难以忍受。
「Infra」频道最新
- IBM 发布 2nm 双架构处理器，单核同跑 ARM 与 Z 指令 — bookwormengr · 2026-08-25
- 英伟达 Vera CPU 高管称 Agentic AI 是史上最复杂计算负载 — firstadopter · 2026-08-25
- 超算数据中心日耗电仅 1.5GWh，远低于炼钢 — davidpattersonx · 2026-08-25
- NVIDIA 技术博客：Gemma 4 推理速度突破 1 万 OTSU — ricklamers · 2026-08-25
- sPTC：推测性程序化工具调用加速 Agent — a1zhang · 2026-08-25
- 推测式程序化工具调用：覆盖代码生成与LLM推理 — a1zhang · 2026-08-25