360 美元 160GB 显存:矿卡 CMP 50HX 搭建本地 LLM 服务器实录
Boricua-vet · reddit · 2026-09-25
作者升级本地 LLM 服务器:用 4 张 CMP 50HX(每张 80 美元,共 360 美元,40GB×4)替换原 P102-100(当时每张 35 美元,现已涨至 200 美元/张),跑本地模型速度良好,待机功耗仅 8W。
要点:
- 安装警告:P520 机箱插槽空间极窄,插拔显卡必须垂直对准,作者曾刮坏元件花 50 美元换主板
- 矿卡需用开源工具 cmp50hx-unlock 解锁才能用作计算卡
- 微调成本账:线上用 RunPod 等微调一个模型仅 3-5 美元,每年约 10 个模型、年支出约 50 美元,没必要花数千美元买高端卡
- 旧 P102-100 服务器继续用于服务为 agent 和工作流微调过的模型
「编程与Agent」频道最新
- Opus 写动态设计全流程:8 分钟思考+4 分钟自修复,完整 prompt 公开 — techhalla · 2026-09-25
- 纯代码零 AE:用 Opus 一条 prompt 14 分钟产出动态设计短片 — techhalla · 2026-09-25
- tool-journal 开源：SQLite 执行日志化解工具调用崩溃后的不确定状态 — JeremyCMorgan · 2026-09-25
- AutoGPT 自动化实测:没省时间,只升级成最差中层管理 — Full_Collar9026 · 2026-09-25
- 多步 Agent 每步该用什么模型?开发者求解分步选型难题 — LeviYagami · 2026-09-25
- NicheDB 上线 MCP 服务器专区，集中收录社区 MCP 资源 — Minimum_Hour519 · 2026-09-25