Google:Agent 是会话不是请求,GKE 节点池要按会话来规划
rseroter · x · 2026-11-21
Google 开发者博客发文解释:把编码 agent 从开发者笔记本迁移到共享 GKE 集群时,不能用 Web 应用的方式做容量规划。
核心论点:agent 是会话(session)而非请求(request)
- Web 请求毫秒级结束、不保留状态,Kubernetes 按流量扩缩容即可
- 编码 agent 的工作区可整日保持打开,在 prompt 之间保留记忆与文件,但只在收到 prompt 时才工作
- 2026 年 7 月一项对 agent traces 的研究发现:含多个 prompt 的典型会话中,agent 约 80% 的时间在等用户;一轮(prompt + 完整响应)平均约 6.5 分钟的 agent 工作
- 按每小时 2 个 prompt 折算,一天里 agent 真正干活的时间极少,节点账单大部分在为「等待」付费
两个概念的分工(配图):
- Agent Substrate(在哪跑):挂起前持有 worker;状态是对象存储里的快照;一个 warm worker 可承载多个会话;各自有沙箱、禁止对外流量
- AX(agent 是什么):持有 Workspace(repo 与文件);任务含镜像、命令、限额;用 ax get/describe/ssh 观察与进入;ax suspend 可保留 /workspace
文章目标是让读者理解 agent 会话需要与 Web 请求不同的运行时,并据此识别 GKE 节点池的成本优化空间。
「编程与Agent」频道最新
- Crazy Agent Scale 夜话:21 人公司做到 1 亿美元 ARR — LukeW · 2026-11-21
- 「图示驱动开发」走红:让 AI 画逻辑图并以此为准,无视聊天墙 — max__drake · 2026-11-21
- shadcn 发布 UI SDK:让 Agent 既能生成也能使用界面 — shadcn · 2026-11-21
- Claude Code 双模型工作流:规划模型审题出票,执行模型只写码 — PrajwalTomar_ · 2026-11-21
- 开发者提议:Agent 审批系统应支持语音确认操作 — NYCounihan · 2026-11-21
- 开源 ENZO v1.7.0:一键安装的本地自托管 GPT,研究模式逐句引用证据 — anonymous20256 · 2026-11-21