极客搭建 16x GB10 集群：硬刚 2T+ 本地大模型
ciprianveg · reddit · 2026-08-02
一位 Reddit 网友分享了自己正在组建的 16x GB10 (DGX Spark) 本地算力集群，旨在运行前沿开源模型。
硬件配置与目标：
- 网络连接：使用 MikroTik CRS804 交换机，通过 4 根 400G 转 100G 的分支线缆连接 16 台 Asus GX10 主机。
- 部署计划：日常计划将其分为两个 8 机集群分别跑模型（如 DeepSeek、Kimi 等），但也保留了满血串联运行 2万亿参数以上（2T+） 巨型模型的能力。
「Infra」频道最新
- 作者实测 2×GB10 本地调优 GLM-5.3-Flash：解码速度提升近 20% — EAccelerate_42 · 2026-10-16
- 开发者用3台DGX Spark组本地集群跑GLM-5.3-Flash,配代理均衡日生175万token — Teknium · 2026-10-16
- Optuna 作者秋叶哉：花3亿日元调2个超参的时代，BO/HPO 还有何用武之地 — Stefania_druga · 2026-10-16
- Amazon 发布生产级 RAG 缓存方案：逐请求校验证据复用，零无效命中 — _reachsumit · 2026-10-16
- LinkedIn 推出 TransX:推荐系统序列转导框架,CTR 提升 6.02% — _reachsumit · 2026-10-16
- llama.cpp 新 PR 优化 AVX2 分块累加器,纯 CPU 推理再提速 — jacek2023 · 2026-10-16