Sara Hooker:推理算力市场并不流动,三周内拿到容量远比三个月难
saranormous · x · 2026-08-21
Sara Hooker 指出,公司业务一旦达到一定规模,推理(inference)就会面临真实的算力约束——推理容量市场并不是一个流动市场,想临时扩容很难。提前三个月规划锁定容量远比三周前才动手容易得多,但终端用户并不关心这些,只要求服务可用。她的建议是:与你的推理供应商搞好关系。
所属事件:算力紧缺蔓延至推理:有预算也难买到 GPU 容量(3 条相关)→
「Infra」频道最新
- xllm 实现 0.4 秒极速图像生成 — warycat · 2026-08-24
- WULF CEO 揭秘:数据中心闭环系统极省水 — robleclerc · 2026-08-24
- Cursor 团队推 Git 大规模架构,力挺无状态化存储 — thesephist · 2026-08-24
- AI 性能工程资源清单 v2 发布:从单次推理到 MoE serving 全覆盖 — AccBalanced · 2026-08-24
- 韩国半导体工程师地位超越医生,家长意愿成风向标 — SuB8u · 2026-08-24
- 本地开发高效且可控,何必一味依赖云端 — vboykis · 2026-08-24