双卡本地推理怎么选：R9700 对比 $1600 二手 RTX 3090
Current-Ticket4214 · reddit · 2026-09-15
楼主计划组装一台双 GPU 主机，目标是跑 30B 模型 FP8 或 70B Q4 量化。原方案是两块 AMD Radeon AI Pro R9700，但发现附近有一对全新未拆封的 RTX 3090，每块 $1600（两张一起买还有折扣）。RTX 40/50 系列和 RTX PRO 6000 都因预算出局。作者现有设备是 64GB 内存的 M1 Max Studio 和一台搭载 7900 XT 的 AM4 主机（跑 Hermes agent），目标是砍掉大部分前沿模型订阅，只保留一个用于编程。帖子讨论 AMD 与 NVIDIA 双卡方案在本地 LLM 推理上的取舍。
「Infra」频道最新
- 爆料称 Nvidia RTX Rubin 6090 将于明年发布 — max_paperclips · 2026-09-15
- Pareta 用小模型路由廉价任务,比 GPT-5.5 便宜约 620 倍 — D33B · 2026-09-15
- 为什么让 AI 提炼三条结论还要等十分钟：Prefill 与 Decode 机制解析 — dotey · 2026-09-15
- 单张 H100 四小时从零训练，ARC-AGI-1 拿下 76% — GregKamradt · 2026-09-15
- 从 Ollama 到 vLLM:LLM 部署升级路线图与场景选择指南 — kalyan_kpl · 2026-09-15
- Kimi K3 上线 NVIDIA NIM，可免费调用 OpenAI 兼容接口 — airesearch12 · 2026-09-15