Ploy 迁移 agent 到 GPT-5.6:调整上下文结构配合 KV 缓存大幅降本
HistoricalTerm1570 · reddit · 2026-09-28
公司 Ploy 在把生产环境 agent 迁移到 GPT 5.6 时发现,针对 KV caching 优化上下文组织方式,能显著降低 agent 运行成本。原理是让多次请求间共享尽可能长的稳定前缀,命中缓存后输入 token 按缓存价计费,远低于普通输入价。素材来自 OpenAI 官方播客,发帖人表示这是新学到的实用知识。对跑多轮 agent 的团队,提示词与上下文排序的微调即可带来可观的账单差异。
「编程与Agent」频道最新
- 用文档喂出 agent 基线:Stationeers IC10 自动化编程工作区开源 — zeeg · 2026-09-28
- LangSmith Engine v2 发布:红队测试、自动验证修复、已分析 7000 万条 trace — LangChain · 2026-09-28
- Codex 听懂潜台词:一句话暗示竟让已排期任务被秒杀终止 — gowthami_s · 2026-09-28
- Agentick 基准入选 NeurIPS,统一评测 LLM 与 RL 智能体 — pcastr · 2026-09-28
- Agentic Commerce 还在 VHS/Betamax 阶段,从业者选择开放共建 — jeff_weinstein · 2026-09-28
- Codex 电脑操作能力被阉割,用户转用 Opus 5.5 一次成功 — iannuttall · 2026-09-28