5070+5060Ti 双卡跑本地模型太慢,该换单卡 RX 7900XTX 吗

rawdikrik · reddit · 2026-09-29

作者在 Unraid 服务器上用本地模型跑 STT、记忆和一个小 LLM,现有 5070 加走 x4 通道的 5060Ti 双卡方案。由于 5060Ti 带宽受主板限制,跨卡跑大模型速度很慢,vllm、ninfer 等优化也突破不了硬件瓶颈。他在考虑卖掉双卡换成单卡 RX 7900XTX,发帖征求社区意见:不需要跑最新模型也不追求速度,只想要省心的本地辅助能力。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →