3 台电脑跑满 CPU 撑 36 个编程 Agent,他说本地推理该用 CPU 别追 GPU
kevinnbass · x · 2026-10-30
Kevin Bass 晒出自己在公寓搭建的 3 台电脑迷你集群(main + 2 台 worker,共 120+ 线程),并抛出反主流观点:跑本地负载需要的是更多 CPU 而不是 GPU,劝大家「别再折腾本地推理了」,还打算再买 6 台。
配图是一套自制监控面板:3 台机器负载 38%70%,跑着 36 个交互会话、24 条 Codex lane 和多路 Claude 任务,还有按 lane/进程细分的 CPU 占用瀑布图。核心思路是与其单机堆 GPU 做推理,不如用一堆便宜 CPU 机器横向并行跑大量编程 agent 任务,并配套了负载分配、内存门控和磁盘水位监控。
「编程与Agent」频道最新
- Ontographia:LLM 只发 Intent,永不手写 Cypher 查询 — JeremyCMorgan · 2026-10-30
- Coinbase for Agents 上线 NousResearch Hermes:交易 Agent 获持久记忆与定时简报 — MurrLincoln · 2026-10-30
- 独立开发者推买断制编辑器 Better Rich Text,逐条硬刚 TinyMCE 订阅收费 — CtrlAltDwayne · 2026-10-30
- 12 分钟无代码搭出工作室 AI 前台:会接电话、答问、不乱报价 — aftahi_ai · 2026-10-30
- 2026 仅剩 63 天:转行 AI 应用的六步执行清单 — brandon_galang · 2026-10-30
- Cursor 市场现恶意 Claude Code,近 5000 用户面临远程入侵风险 — Polymarket · 2026-10-30