一年半攒下 RTX Pro 6000、双 DGX Spark:本地 AI 算力真实体验
EAccelerate_42 · x · 2026-09-09
- 作者回顾 1.5 年间 AI 硬件格局变化，晒出自己的本地算力配置：RTX Pro 6000、RTX 5000、2 台 DGX Spark、一台 M4 Max 和一台 M4 Pro。
- 关键观察：DGX Spark 内存带宽很差，CUDA 核心发挥不出来，连 M4 Max 的带宽都是它的两倍；MoE + 投机解码的进展让非 RTX Pro 的高内存设备越来越能打。他认为 RTX Pro 6000 若降到 6000–8000 美元区间会是极好的选择。
「Infra」频道最新
- Together 提出 MIGHT 开源 AI 技术栈：模型/推理/路由/Harness/工具五层可自由替换 — togethercompute · 2026-10-28
- 数据中心日均用水 1.6 万加仑，不到高尔夫场地的五分之一 — lmoroney · 2026-10-28
- LocalMaxxing 收录 228 个模型、693 组 LLM 推理吞吐基准结果 — TheZachMueller · 2026-10-27
- Anthropic 招股书拆解:收入按年签,算力 take-or-pay 锁到 2030+ — SumitGup · 2026-10-27
- Qwen3.8 27B 统计无损量化 GGUF 发布,UD Q8 还原度达 99.5% — udmrzn · 2026-10-27
- 攻击者 27 秒可横穿内网，INT21 用 Agent 集群+1700 tok/s 推理做防御 — bingxu_ · 2026-10-27