为跑 24/7 智能体系统,研究者自制本地 GPU 服务器替代 Mac mini

nodosenlared · x · 2026-11-21

研究者 Miriam González 的 AI 智能体系统 Polaris 目前 24/7 跑在一台 16GB 内存、无法扩容的 Mac mini 上。由于处理的是个人健康数据,必须完全本地运行、数据不出家门,她与一位有 20 年硬件经验的朋友合作搭建本地服务器,并将整个过程做成 YouTube 系列记录。

新服务器配置(见配图):工作站级多核 CPU、8×32GB DDR4 ECC 内存(8 通道)、2-3 张 24GB+ VRAM 的 GPU、4TB NVMe Gen4 存储、1600-2200W 铂金电源、10GbE 网卡接 NAS(3×8TB)和 UPS。核心逻辑是 VRAM 决定本地能跑多大的模型、多少智能体并行。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →