抢不到云厂商芯片配额,Fal、Baseten 等推理服务商开始自购芯片

The Information 记者 Catherine Perlo 与 Steph Palazzolo 报道,Fal、Baseten 等为 AI 模型提供运行软件层的推理服务初创公司,正因拿不到大厂云的芯片配额——云厂商算力被优先分配给大客户——而转向自购芯片并自建运营数据中心。为应对算力紧张,这些厂商还不得不把负载分散到数十家小型云上,反映出推理层算力供需的严重失衡。

2026-11-12 ~ 2026-11-12 · 2 条相关