3 台电脑跑满 CPU 撑 36 个编程 Agent,他说本地推理该用 CPU 别追 GPU

kevinnbass · x · 2026-10-30

Kevin Bass 晒出自己在公寓搭建的 3 台电脑迷你集群(main + 2 台 worker,共 120+ 线程),并抛出反主流观点:跑本地负载需要的是更多 CPU 而不是 GPU,劝大家「别再折腾本地推理了」,还打算再买 6 台。

配图是一套自制监控面板:3 台机器负载 38%70%,跑着 36 个交互会话、24 条 Codex lane 和多路 Claude 任务,还有按 lane/进程细分的 CPU 占用瀑布图。核心思路是与其单机堆 GPU 做推理,不如用一堆便宜 CPU 机器横向并行跑大量编程 agent 任务,并配套了负载分配、内存门控和磁盘水位监控。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →