Andrew Chen 晒本地 AI 工作站：5090 eGPU 加双 DGX Spark 混合路由
andrewchen · x · 2026-09-14
a16z 合伙人 Andrew Chen 展示了他用于本地 AI 实验的 homelab 配置与使用思路：
- 主力本地推理：Framework Desktop AI Max+ 395（Hermes box）+ 5090 eGPU 跑 Qwen 27B，速度可达 150+ tok/s；两台 DGX Spark 跑 DeepSeek v4 Flash，效果更好但更慢，专门用于 cron 任务和长构建等后台批处理。
- 智能路由：自研插件接 Arch-Router 小模型判断请求走本地还是升级到云端前沿模型，目前本地化率约 60-70%，目标是 100%。
- 周边：树莓派 5 做监控，Mac mini 做 dev box，整体装进 10 英寸 DeskPi mini rack。
- 他坦承并非必需，从 Mac mini 逐步加购而成，并提醒 eGPU 这一步不建议，是后悔之选。
「编程与Agent」频道最新
- Teknium 转评 Hermes 电话技能:让 Agent 打电话、发短信走进现实 — Teknium · 2026-09-14
- 开发者自述:不再逐行读代码,把 4000 客户的支持信箱交给 Agent 自动运转 — natesiggard · 2026-09-14
- Every 编辑用三技能 Agent 流水线写 AI 日报 — danshipper · 2026-09-14
- 开发者把 Codex 工作流固化为 TITAN:SOL 规划、LUNA 实施、仓库自持状态 — sokobih · 2026-09-14
- 经济学家吐槽 Claude 编程:绕过已有工作、不认账还瞎编,Astra 判断力更佳 — soumitrashukla9 · 2026-09-14
- CI 全绿功能却从未生效:开发者揪出 20+ 个「隐形死功能」bug — Initial_Orange2985 · 2026-09-14