预算 1800 美元跑本地大模型:5060Ti 用户求 GPU 升级方案
espece-de-bon · reddit · 2026-10-07
一位本地 LLM 用户在 Reddit 征求升级建议:预算约 1700-1800 美元,现有 5060 Ti 16GB + 96GB DDR5 内存 + 仅一条 PCIe 5.0 x16 的 ASRock X870 Pro 主板,主要跑 3bit 量化的 27B 级模型,用于写代码、分析 PDF 和地图图像。
三个候选方案:
- 二手 5060 Ti 16GB(约 500 美元)组双卡,但第二个槽只有 x4;
- 二手 7900 XTX 24GB(约 850 美元);
- R9700,但没钱换主板支持双 PCIe 5.0。
作者还在研究 x8/x8 bifurcation 可行性,并计划用 Tailscale/Headscale 实现外出时远程访问本地模型。
「Infra」频道最新
- Omarchy Linux 官方推出浏览器远程桌面插件 — juntao · 2026-10-07
- Datology AI 开源 Zephon:支持弹性确定性与流式分词的数据加载器 — pratyushmaini · 2026-10-07
- Intel CEO 确认将继续与马斯克 Terafab 合作造芯 — elonmusk · 2026-10-07
- Symmetrix-XL 开源发布：单 GPU 跑千万原子级 MACE 分子模拟 — CatAstro_Piyush · 2026-10-07
- National Compute Grid 上线数百个 MI355X 与 B300 节点，补贴教育政府机构 — typewriters · 2026-10-07
- 数千台 Ollama 服务器裸奔:API 无鉴权,NetBird 指南教你安全组网 — victorialslocum · 2026-10-07