Sara Hooker：推理算力市场并不流动，三周内拿到容量远比三个月难
saranormous · x · 2026-08-21
Sara Hooker 指出，公司业务一旦达到一定规模，推理（inference）就会面临真实的算力约束——推理容量市场并不是一个流动市场，想临时扩容很难。提前三个月规划锁定容量远比三周前才动手容易得多，但终端用户并不关心这些，只要求服务可用。她的建议是：与你的推理供应商搞好关系。
所属事件:算力紧缺蔓延至推理：有预算也难买到 GPU 容量(3 条相关)→
「Infra」频道最新
- OCP 大会最后一日，Nvidia MGX 电源机架场次仍座无虚席 — firstadopter · 2026-10-16
- Intel 用 4 张 160GB 风冷 GPU 卡跑通 816B 参数 Muse Spark Open — BenBajarin · 2026-10-16
- 两台 Mac Studio 跑通 816B 参数模型：4 万美元替代 50 万算力 — charles_irl · 2026-10-16
- Filecoin 主网上线六年，转向 AI 时代存储并推出 S3 对象存储 — juanbenet · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- Artificial Analysis 将测试 4-bit 量化与 Metal 投机解码引擎 — ArtificialAnlys · 2026-10-16