Agent 推理像反复进出烤箱的饼干,需要一套全新基础设施
sarahookr · x · 2026-09-02
Sarah Guo 指出 AI Agent 正在改变推理负载的形态:传统的训练/推理是连续矩阵乘法,工作负载高度可预测;而 Agent 以多步循环运行——执行动作、检查结果、修正路线,像需要把饼干反复取出检查再放回烤箱的食谱。她认为瓶颈不再只是「把面团送进烤箱的速度」,而是取出、校验、放回的循环速度,这要求一套根本不同的基础设施架构。
所属事件:Sarah Hooker:测试时计算与Agent正重构AI基础设施(9 条相关)→
「编程与Agent」频道最新
- XBOW 详解规模化漏洞挖掘的隐性难题:如何判断两个发现是同一漏洞 — moyix · 2026-09-03
- fable-advisor:让 Fable 5.1 当架构师编排 GPT 实现 — daniel_mac8 · 2026-09-03
- Every 发布 Compound Writing:把 Claude Code 变成会积累经验的写作编辑 — danshipper · 2026-09-03
- 开源 video-shotcraft:让 Claude Code 用 Remotion 产出电影感产品视频 — tom_doerr · 2026-09-03
- Vercel Fluid 每天跑 1500 万次构建,函数、沙盒与构建共用一套算力系统 — soleio · 2026-09-03
- exo 代理框架走红:开放全部运行代码让模型自我改进 — omarsar0 · 2026-09-03