跑 LLM 别只看核心数：AMD CCD 数量决定带宽上限
HankYeomans · x · 2026-09-24
作者分享跑 LLM 工作负载的硬件经验：大家只谈 CPU 核心数，但更关键的是 AMD 的 CCD 数量。8 条 CL32/6400MT 内存插槽可提供 409GB/s 带宽，但 16 核 Threadripper PRO 只有两个 CCD，跨 CCD 的关键路径带宽上限只有 125GB/s（超频 fabric 后约 140GB/s）。想让 CPU 侧真正吃满内存带宽，需要 64 核、8 个 CCD 的型号。
「Infra」频道最新
- 一条 prompt 让 agent 自己核算账单：价格涨还是用量涨？ — gethackteam · 2026-09-24
- 腾讯混元扩展 critical-batch-size 理论:GRPO 训练提速 29%,PPO 生成吞吐达 2.29× — TencentHunyuan · 2026-09-24
- 小米披露MiMo-V3架构HySparse2：KV Cache占用降至约1/4.5 — 智东西 · 2026-09-24
- ComfyUI 无损压缩节点：28GB 模型压到 19GB，位级完全一致 — New-Shift6661 · 2026-09-24
- NVIDIA 直播：DGX Spark/Station 本地跑 Nemotron 3.5 Lightning — NVIDIA Developer · 2026-09-24
- 十亿人用个人 AI Agent,算力与内存需求将何等惊人 — firstadopter · 2026-09-24