算力紧缺蔓延至推理：有预算也难买到 GPU 容量

业界人士指出，算力紧缺已从训练环节蔓延至推理：推理容量市场并非流动市场，业务达到一定规模后临时扩容极为困难。Sara Hooker 强调，提前三个月预订锁定容量远比提前三周容易。讨论还澄清，核心问题不是团队买不起算力，而是即便手握巨额预算，市场上也没有可用的 GPU 供给，未来企业获取容量将更加困难。

2026-08-21 ~ 2026-08-21 · 3 条相关