双 RTX Pro 6000 + Threadripper 9955W 本地跑大模型，配置求把关
No_Run8812 · reddit · 2026-09-10
一位软件开发者在 Reddit 求评他的本地 AI 服务器升级配置：已有两张 RTX Pro 6000，新购入 G.Skill 128GB DDR5-5600 四通道内存、AMD Threadripper PRO 9955W、360mm 一体式水冷和 ASUS Pro WS WRX90E-SAGE SE 主板，计划运行 DeepSeek V4 Flash 和 Qwen 3.8 Flash，并询问 GLM 5.3 Flash 做显存卸载(RAM offload)能否跑出可用速度，希望社区指出配置的明显坑。
「Infra」频道最新
- Kimi K3 上线 RunPod：2.8T 参数、1M 上下文，$3/$15 定价 — Kimi_Moonshot · 2026-09-10
- 一周烧掉3亿 token 仍未触顶，GLM 5.3 额度宽松引热议 — saibharadwaj · 2026-09-10
- Nvidia 收购 Hugging Face 后,业界呼吁建设中立替代平台 — hargup13 · 2026-09-10
- 5 小时被扣 8.2 万美元账单:Google Cloud 用户遭天价扣费 — Patient_Election2179 · 2026-09-10
- TRL 发布百万 token 长上下文训练指南，单节点训通 Qwen3-8B — QGallouedec · 2026-09-10
- 截图显示 V4 时代 KV cache 机制存在 72 小时限制 — zephyr_z9 · 2026-09-10