Agent 推理像反复进出烤箱的饼干,需要一套全新基础设施

sarahookr · x · 2026-09-02

Sarah Guo 指出 AI Agent 正在改变推理负载的形态:传统的训练/推理是连续矩阵乘法,工作负载高度可预测;而 Agent 以多步循环运行——执行动作、检查结果、修正路线,像需要把饼干反复取出检查再放回烤箱的食谱。她认为瓶颈不再只是「把面团送进烤箱的速度」,而是取出、校验、放回的循环速度,这要求一套根本不同的基础设施架构。

所属事件:Sarah Hooker:测试时计算与Agent正重构AI基础设施(9 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →