软件工程师自建 64GB 显存三卡 3090 本地编程助手全记录
trytoinfect74 · reddit · 2026-09-13
一位不愿长期为 OpenAI/Anthropic 订阅买单、担心厂商涨价与单方面改条款的软件工程师,详细记录了自己组装 64GB VRAM 本地 AI 编程工作站的完整过程。
硬件踩坑与解决方案:
- 机箱选 Meshify 2 XL(因新版 3 XL 去掉了防尘网),装下 3 张 RTX 3090 FE:两张上主板 PCIE 槽,第三张用 CoolerMaster V3 立式支架改造(去掉自带 riser、钻孔固定在防尘网盖板上)垂直悬挂,散热朝上,温度表现合理
- 电源选 Corsair HX1500i SHIFT,但其接口布局最多只支持 6 个 8-pin,限制只能带 3 张双 8-pin/12VHPWR 显卡,被迫把一张 3x8pin 的 3090 换成 FE 版,并将两张 3090 功耗墙限制到 300W 保险
- 第三张卡需要 500-600mm 的 PCIe 延长线(400mm 不够长);作者指出 PCIe 4.0 是长延长线的实际上限,多数 PCIe 5 方案需要额外供电和信号中继,否则衰减严重;延长线未刚性固定,需自制 3D 打印卡扣
软件栈: 自编译 llama.cpp(开启 CUDA FA、NCCL、CUDA Graphs、LTO 等),运行 Qwen 27B Q80 量化模型,-ngl all 全量卸载,按 14/24/24 张量切分到三张卡,layer split 模式 + --kv-unified。
结论是本地多卡方案已能真正提升他写代码的质量和速度,且规避了订阅成本与条款风险。
「编程与Agent」频道最新
- 1 对 8 买家谈判 Agent 实战:踩坑与修复全记录 — mv_soura · 2026-10-31
- PostTrainBench 轨迹数据集月下载破 10 万,作者警告是 RL 奖励作弊所致 — maksym_andr · 2026-10-31
- 用 AI 做游戏?先搭一个 tech art 测试场景 — chongdashu · 2026-10-31
- Sanity 开源 pi-mcp-events:为 Pi agent 实现 MCP Events 流式订阅 — knutmelvaer · 2026-10-31
- Agent 办公室产品 Skydive 开放:3D 界面 watching AI 同事干活 — Scobleizer · 2026-10-31
- LangChain SF 线下活动:决策模型与 Agent 评测的新玩法 — LangChain · 2026-10-31