Sarah Hooker:测试时计算与 Agent 工作流正重塑 AI 基础设施
sarahookr · x · 2026-09-02
AI 基础设施为何面临变革压力
前 Google Brain 科学家、Cohere 创始人 Sarah Hooker 指出,过去十年 AI 基础设施的核心执念是尽可能把算力集中部署在同一位置:
- 大模型预训练成本极高,GPU 间数据传输是最不可靠的瓶颈
- 第一原则是不惜一切代价让训练不要中断
而现在,两股新力量正给现有 AI 基础设施组织方式带来巨大压力:
- 测试时计算(Test-Time Compute):推理阶段的算力需求大幅上升
- Agent 工作流:智能体任务模式与传统集中式训练假设不同
这意味着围绕预训练优化的 infra 架构逻辑正在被改写。
所属事件:Sarah Hooker:TTC 与 Agent 工作流正重构 AI 基础设施(9 条相关)→
「Infra」频道最新
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18
- DFB 激光器耦合薄膜铌酸锂芯片:最高 170mW、阈值仅 40-45mA — jwt0625 · 2026-10-18
- 5070 Ti 外挂 3070 混搭跑 Qwen 35B 达 82 tok/s — hereforcheesee · 2026-10-18
- 中国在建/规划功率半导体晶圆厂达 69 座,遍布 58 家厂商 — zephyr_z9 · 2026-10-18
- 研究测算:AI 数据中心每年需 3.5 万亿美元收入才能撑住 — TheseFact · 2026-10-18