极客搭建 16x GB10 集群:硬刚 2T+ 本地大模型
ciprianveg · reddit · 2026-08-02
一位 Reddit 网友分享了自己正在组建的 16x GB10 (DGX Spark) 本地算力集群,旨在运行前沿开源模型。
硬件配置与目标:
- 网络连接:使用 MikroTik CRS804 交换机,通过 4 根 400G 转 100G 的分支线缆连接 16 台 Asus GX10 主机。
- 部署计划:日常计划将其分为两个 8 机集群分别跑模型(如 DeepSeek、Kimi 等),但也保留了满血串联运行 2万亿参数以上(2T+) 巨型模型的能力。
「Infra」频道最新
- Tobi 开源 walgit:无数据库的单二进制 Git 服务器 — jevon · 2026-08-24
- s3collections:用S3构建分布式系统持久化数据结构 — andersonbcdefg · 2026-08-24
- 预测市场:年底前美一州实施数据中心禁令概率 68% — Polymarket · 2026-08-24
- Ramp 用本地模型省钱,引发业界对 AI 成本反思 — annetgriffin · 2026-08-24
- GitHub Actions 额度耗尽,是时候迁移到自建 VPS 了吗? — MicahBerkley · 2026-08-24
- Ubuntu 计划成为 RISC-V CPU 的参考操作系统 — bookwormengr · 2026-08-24