实测模型:20 轮 Agent 循环让 $20/月席位在第 14 轮亏本
TokenMarginDev · reddit · 2026-11-02
开发者 TokenMarginDev 对多轮 agent 的 token 成本做了系统建模,覆盖 61 个生产模型(Claude Sonnet 4、GPT-4.1、Gemini 2.5 Pro/Flash、DeepSeek R1/V3 等)。
核心发现
- 单轮对话约 3,500 输入 token;20 轮 agent 循环累计输入约 146,000 token(1x → 14.5x),Phi-4 这类 16K 上下文模型第 5 轮就爆上下文。
- 缓存反转性价比:无缓存时 GPT-4o 比 Claude 3.7 Sonnet 便宜 27%;但开启 65% 缓存命中率后,Anthropic 90% 缓存读折扣($0.30/1M vs OpenAI $1.25/1M)使 Claude 每席位略 cheaper($22.46 vs $22.53/月)。
- 80/20 混合路由:80% 常规轮次(分类/工具解析)路由到 Gemini 2.5 Flash($0.15/$0.60)或 DeepSeek V3($0.24/$0.79),20% 复杂推理留给 Claude Sonnet 4,可将每席位 COGS 从 $22.50 降到 $4.60,恢复 77% 毛利率。
作者还提供了在线成本计算器、litellmconfig.yaml 模板和零依赖 TypeScript fallback 路由器,并询问其他开发者如何处理 P95 重度用户的 token 上限。
「编程与Agent」频道最新
- 开发者推 flock:基于 t3code fork 的全新 iOS 移动端 Agent 应用 — seatedro · 2026-11-03
- WhatIf:万余个 LLM 智能体搭建可操控的「政策飞行模拟器」 — scyrusk · 2026-11-03
- LLM 解数学题人人喝彩,解锁可靠软件设计的新基建模式却无人问津 — StewartalsopIII · 2026-11-03
- 一张截图看懂 Vibe Coding 五年:GPT-3 按钮到 Opus 5.5 3D 场景 — bennash · 2026-11-03
- Stripe Agent Wallet 接入 Merge Agent Handler,Agent 代付不碰卡号 — shensi · 2026-11-03
- 让 Agent 逆向 HTTP 接口写 CLI,比 computer-use 快又省 token — vivekhaldar · 2026-11-03