重度 AI 用户可能在模型路由上浪费的额度比提示词更多

Druss_ · reddit · 2026-09-25

作者在跑真实工作的多 agent 系统时发现反直觉现象:手动用单个 Codex/ChatGPT 长会话时,通常开局做一个粗粒度决策(选哪个模型、哪个推理档位),之后同一配置要应付规划、检索、琐碎检查、硬推理、修订和验证——效率越来越低。他改为把工作分解:确定性步骤不用模型、简单步骤走便宜快模型、困难或含糊步骤用强推理、验证独立进行、首次失败再升级而非一开始就付最高成本。结果显示多个小模型运行消耗的付费额度明显低于一次大型手动运行。他也承认额度消耗还受上下文大小、工具、后台 agent 和平台侧效率影响,「用户选错模型」是过度简化。核心主张:模型选择应被视为资源分配而非聊天偏好——就像公司不会把所有任务都派给最贵的高级专家,而是派给能胜任的最低层级、例外再升级。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →