AMD 发布 Threadripper Halo Station:96 核+四 MI350P 最高 576GB 显存
AIFlow_ML · x · 2026-09-04
AMD 在 IFA 2026 开幕主题演讲上发布液冷工作站 Threadripper Halo Station,由 Jack Huynh 介绍,称为市面最强工作站。要点: - CPU:Ryzen Threadripper PRO 9995WX,96 核 Zen 5、192 线程,八通道 DDR5、128 条 PCIe 5.0 通道,现场机配 2TB 系统内存 - GPU:现场配 2 张 Instinct MI350P(CDNA 4,各 144GB HBM3E、4TB/s 带宽、600W TBP、PCIe 5.0 x16),共 288GB 显存 - 规划支持 4 张 MI350P,总显存达 576GB;此级别散热压力大,故采用液冷。对本地大模型部署者这是罕见的超大显存一体化方案。
「Infra」频道最新
- LFM2-350M 量化版在 RTX 5090 上跑出 170 万 token/s 解码速度 — AlpinDale · 2026-09-04
- Lightning AI 月报：Drive 数据持久化提速 200 倍，H100 开始换 H200e — LightningAI · 2026-09-04
- 推主连载科普 LLM 推理指标：TTFT、TPS、TPOT 到底在测什么 — abhijithneil · 2026-09-04
- LLM 推理科普连载：Prefill 并行读、Decode 逐 token 写的时间去哪了 — abhijithneil · 2026-09-04
- GPU 像千人工厂:逐 token 生成可能 1 人与 100 人利用率相同 — abhijithneil · 2026-09-04
- LLM 推理入门：带宽除以权重字节数，写代码前就能算出吞吐上限 — abhijithneil · 2026-09-04