博主 racks 六台 ASUS GX10，合计 768GB 显存跑本地模型
glenbeer · x · 2026-10-23
一位开发者展示了自己的机架：共六台 ASUS GX10 迷你 AI 主机，每台配备 128GB 统一显存，合计可达 768GB。图中可见编号 AI.0 至 AI.4 的设备整齐排列在机架层板上，另有一台留在桌面使用。这类设备常被用于本地部署大参数量 LLM，是低成本搭建私人推理集群的代表案例。
「Infra」频道最新
- Agent 数据过路费：企业 Agent 数据服务支出 2030 年或达 300 亿美元 — BenBajarin · 2026-10-23
- Elon 7 月抢先下单 AI 芯片，10 月中国出口管制后无人能复制 — teortaxesTex · 2026-10-23
- Aalo Atomics 8 个月建成实验核堆，AI 算力竞逐能源瓶颈 — NinaDSchick · 2026-10-23
- Project NOMAD:在断网前用 Claude Code 装好一套离线 AI 知识服务器 — alex_verem · 2026-10-23
- PyTorchCon 2026:3500人参会,TorchTPU 原生支持亮相 — PyTorch · 2026-10-23
- Tailscale 创始人复盘:当年弃用密码选纯 OIDC,如今可上 passkey — davidcrawshaw · 2026-10-23