本地跑 Qwen3 8B 想扩到 128GB 内存:老平台 DDR4 换条值不值

thatscoolbutno123 · reddit · 2026-11-05

Reddit 用户在 Z690 主板 + RX 9700(32GB 显存)的老游戏机上本地跑 Qwen3 8B Flash Next(IQ3XXS 量化),目前 4x16GB 内存占用已达 55GB/64GB,3 个并行会话、350k 上下文(QK8V4)下聚合解码约 100 tps。他想升级到 4x32GB(约 500-600 欧,无散热马甲但机箱风量尚可),以便缓存更多会话、用更大的 K 量化并扩上下文,同时保持速度。他还在纠结内存频率:≥3200MHz 的条子贵得多,若只跑 2100-2600MHz 会不会明显拖累推理速度,并问 150GB 总(显)存下能否跑比 Qwen3 8B 更好的模型。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →