推理已超训练成最大市场,小型数据中心迎布局窗口
AccBalanced · x · 2026-10-03
转发观点称:推理市场已超过训练,将重塑数据中心的建设逻辑。训练需要数千 GPU 集中在一地,推理则不需要,这为大量 5-20MW 级别的小型数据中心创造机会:可以建在有闲置电力的地方,监管门槛也更低。
作者举例:NVIDIA 正在建设 25 个 5-20MW 的小型数据中心,Akamai 已在全球约 4400 个小型站点上运行推理。结论是小数据中心更赚钱、风险更低,更多人有机会参与这个市场。
「Infra」频道最新
- AMD Loom 实测:Qwen3.5-4B 在 Radeon 890M 上 prefill 提速 2.6 倍 — jfowers_amd · 2026-11-19
- 开发者向 GKE 沙箱项目提 PR:定期 checkpoint 防 agent 进度丢失 — yoimnotkesku · 2026-11-19
- AWS Lambda 终于支持 GPU:托管实例可跑模型推理与媒体处理 — DavidWells · 2026-11-19
- 曝黄仁勋人为制造显卡稀缺抬价获利,库存积压仍维持高价 — GaryMarcus · 2026-11-19
- AWS AgentCore Identity 支持私有 CA,Agent 可直连内网自建 IdP — AWS ML Blog · 2026-11-19
- 爆料:中国秘密研发百万卡级无HBM训练集群,国产芯片架构存疑 — teortaxesTex · 2026-11-19