5070+5060Ti 双卡跑本地模型太慢,该换单卡 RX 7900XTX 吗
rawdikrik · reddit · 2026-09-29
作者在 Unraid 服务器上用本地模型跑 STT、记忆和一个小 LLM,现有 5070 加走 x4 通道的 5060Ti 双卡方案。由于 5060Ti 带宽受主板限制,跨卡跑大模型速度很慢,vllm、ninfer 等优化也突破不了硬件瓶颈。他在考虑卖掉双卡换成单卡 RX 7900XTX,发帖征求社区意见:不需要跑最新模型也不追求速度,只想要省心的本地辅助能力。
「Infra」频道最新
- 用 Kernel Design Agent 优化 Kimi Delta Attention 内核,最高提速 2.96 倍 — songhan_mit · 2026-09-29
- GLM 5.3 输出价一个月从 $4.4 跌到 $1.61,OpenRouter 掀推理价格战 — AccBalanced · 2026-09-29
- 平均故障间隔仅 6.5 小时:ASCI Q 超算靠中子束揪出宇宙射线元凶 — lauriewired · 2026-09-29
- SNI 工作原理一图看懂:CDN 和多租户服务都靠它路由 — HankYeomans · 2026-09-29
- 知名算力交易博主加盟 Compute Exchange 任交易负责人 — ns123abc · 2026-09-29
- 黑客链式利用硬编码密钥拿下 Meta 服务 root 权限并窃取云凭证 — evilsocket · 2026-09-29