Sarah Hooker:测试时计算与 Agent 工作流正重塑 AI 基础设施
sarahookr · x · 2026-09-02
AI 基础设施为何面临变革压力
前 Google Brain 科学家、Cohere 创始人 Sarah Hooker 指出,过去十年 AI 基础设施的核心执念是尽可能把算力集中部署在同一位置:
- 大模型预训练成本极高,GPU 间数据传输是最不可靠的瓶颈
- 第一原则是不惜一切代价让训练不要中断
而现在,两股新力量正给现有 AI 基础设施组织方式带来巨大压力:
- 测试时计算(Test-Time Compute):推理阶段的算力需求大幅上升
- Agent 工作流:智能体任务模式与传统集中式训练假设不同
这意味着围绕预训练优化的 infra 架构逻辑正在被改写。
所属事件:Sarah Hooker:测试时计算与Agent正重构AI基础设施(9 条相关)→
「Infra」频道最新
- WSL 嵌套虚拟化要来了:用户提交 PoC 后团队已着手实现 — unixterminal · 2026-09-03
- Vercel Fluid 每天跑 1500 万次构建,函数、沙盒与构建共用一套算力系统 — soleio · 2026-09-03
- Baseten 携手 NVIDIA Dynamo 与 SGLang 办 RL 后训练基建之夜 — BanghuaZ · 2026-09-03
- 每月几美元在 Cloud Run 上自托管 Code OSS 编辑器 — rseroter · 2026-09-03
- Matthew Berman:数据中心算力瓶颈「可能被解决」 — Matthew Berman · 2026-09-03
- 某公司 token 用量两月暴涨 720 倍:从每月 10 亿到每小时 10 亿 — MartinGTobias · 2026-09-03