为跑 24/7 智能体系统,研究者自制本地 GPU 服务器替代 Mac mini
nodosenlared · x · 2026-11-21
研究者 Miriam González 的 AI 智能体系统 Polaris 目前 24/7 跑在一台 16GB 内存、无法扩容的 Mac mini 上。由于处理的是个人健康数据,必须完全本地运行、数据不出家门,她与一位有 20 年硬件经验的朋友合作搭建本地服务器,并将整个过程做成 YouTube 系列记录。
新服务器配置(见配图):工作站级多核 CPU、8×32GB DDR4 ECC 内存(8 通道)、2-3 张 24GB+ VRAM 的 GPU、4TB NVMe Gen4 存储、1600-2200W 铂金电源、10GbE 网卡接 NAS(3×8TB)和 UPS。核心逻辑是 VRAM 决定本地能跑多大的模型、多少智能体并行。
「编程与Agent」频道最新
- 开源 PanelCAD:把 KiCad 式设计体验带到工业控制柜绘图 — burhop · 2026-11-21
- agent 给 10 分钟的活报「几天工期」,网友想做个 skill 治时间盲区 — jamesbrooksco · 2026-11-21
- 免费 AI 工程课程装进编码 Agent:终端里当你的私教 — ghumare64 · 2026-11-21
- Karpathy 晒 70 分钟无幻灯片实录:顶级玩家每天怎么用 AI — shivsingh · 2026-11-21
- 独立开发者自曝用 TanStarter 模板已赚数万美元,黑五终身版降价至 $99 — yihui_indie · 2026-11-21
- 第二个 AI agent 复核第一个,不等于结果真的被验证 — Anyone_0478 · 2026-11-21