Sara Hooker:Agent 时代 Infra 的核心战场是冯·诺依曼瓶颈
sarahookr · x · 2026-09-03
Cohere 总裁 Sara Hooker 提出:多步 agent 循环「看护」(babysitting)需要不断卸载中间状态,这与传统单次推理完全不同。
她的核心论点:
- 传统推理像「把面团送进烤箱」——只需关注算力(FLOPs)速度;
- Agent 是多步循环:执行动作、检查是否成功、调整方向,像需要反复进出烤箱的复杂工厂;
- 因此 Infra 的未来不只是最大化 FLOPs,而是要攻克冯·诺依曼瓶颈——数据来回搬运有多快,这在硬件架构史上一直是最难的问题。
所属事件:Sarah Hooker:测试时计算与Agent正重构AI基础设施(9 条相关)→
「漫话AGI」频道最新
- latent reasoning 伤安全监控?CoT 本就是看茶叶,架构一改就崩的方法不可靠 — juliusadml · 2026-09-03
- 1996 年下单要 10 分钟:Agent 时代的等待,像极了早期网购的笨拙 — charliedeets · 2026-09-03
- 星云奖作家匡灵秀谈写作:好文字的感觉与质量并无相关性 — david_perell · 2026-09-03
- BART 单程成本 48.76 美元、补贴 43.58 美元,自动驾驶或成美国公交出路 — garrytan · 2026-09-03
- 银行 85% 的 AI 用例死在上线前,60% 机构困于"冻结中坚"无法规模化 — mikeflache · 2026-09-03
- Pedro Domingos:我们需要防 Goodhart 的衡量指标 — pmddomingos · 2026-09-03