80GB VRAM 本地大模型装机求助:三张 5060 Ti 加雷电外接

OpenEvidence9680 · reddit · 2026-08-31

Reddit 用户计划搭建本地推理 PC:用 llama.cpp 与 ComfyUI,希望以 Q5/Q6 量化跑 Qwen 3.8 Next、以 Q4 跑 GLM 3 Flash,日常用 Darwin 31B 和 Qwen 27B 追求速度,并计划双 PC 分片与内存卸载。方案为 3 张内接 RTX 5060 Ti 16GB(两张 8x、一张 4x)凑 80GB VRAM、128GB 内存,后续经 Thunderbolt 5 外接两张 GPU,并询问第二台 PC 是否应装 Linux。社区可对照检查方案中的坑。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →