编程 Agent 切换模型易致缓存丢失致成本失控
blelbach · x · 2026-07-24
Kevin Gray 引用讨论指出，在编程 Agent 中输入 token 占据了主要成本。他强烈建议不要使用 OpenRouter 等路由工具，因为切换底层模型提供商会导致丢失上下文缓存（context caching），从而使推理成本剧增。他推荐直接使用 Grok、Gemini 或 Kimi 等具备高性价比的模型。
「编程与Agent」频道最新
- Agent 成功完成任务的背后:验证器只查了「有没有点击」导致重复投票 — TejasKumar_ · 2026-10-26
- diginomica 周报:agentic 自动化被高估,agent 攻防「The Hackening」已开始 — jonerp · 2026-10-26
- 「氛围验证」研究：近 60% 的形式化证明证明的不是作者本意 — basedjensen · 2026-10-26
- Devin 推出安全工具线，由 Claude Mythos 驱动并送数亿美元额度 — DevinAI · 2026-10-26
- HackBench 发布：向 Agent 轨迹注入作弊，压力测试监控器 — DanielKhashabi · 2026-10-26
- HF Hub CLI 大更新:缓存去重省 19GB,GPU 任务可重试重跑 — yb2698 · 2026-10-26