Andrew Chen 晒本地 AI 工作站:5090 eGPU 加双 DGX Spark 混合路由
andrewchen · x · 2026-09-14
a16z 合伙人 Andrew Chen 展示了他用于本地 AI 实验的 homelab 配置与使用思路:
- 主力本地推理:Framework Desktop AI Max+ 395(Hermes box)+ 5090 eGPU 跑 Qwen 27B,速度可达 150+ tok/s;两台 DGX Spark 跑 DeepSeek v4 Flash,效果更好但更慢,专门用于 cron 任务和长构建等后台批处理。
- 智能路由:自研插件接 Arch-Router 小模型判断请求走本地还是升级到云端前沿模型,目前本地化率约 60-70%,目标是 100%。
- 周边:树莓派 5 做监控,Mac mini 做 dev box,整体装进 10 英寸 DeskPi mini rack。
- 他坦承并非必需,从 Mac mini 逐步加购而成,并提醒 eGPU 这一步不建议,是后悔之选。
「编程与Agent」频道最新
- effect-harness + Cloudflare:agent 循环自由拆到多台 VM 上跑 — samgoodwin89 · 2026-10-31
- jh3yy:AI agent 第一次让工具跟上我的大脑,找回心流 — jh3yy · 2026-10-31
- CAFE 生态周报:Maple 三天迁移 30 万行 React 到 Foldkit — samgoodwin89 · 2026-10-31
- 二十年没写代码,他用 Claude 做出百星开源 TV 启动器 — SuB8u · 2026-10-31
- Factory 收购 typedef_ai,为 AI agent 补上企业数据上下文层 — maddiehfaulkner · 2026-10-31
- 浏览器 Agent 丢链后图搜索救场:5/5 对单轨迹回放 0/5,作者主动更正数据 — JeremyCMorgan · 2026-10-31