智能体工程避坑：盲目使用小模型降本或致延迟增加

brandon_galang · x · 2026-08-06

在构建智能体工作流时，如果预算不是硬性限制，应谨慎通过降级使用小模型来削减 Token 开销。小模型隐藏的代价往往是延迟增加（需要更多输出 Token 来推理）以及难以理解细微差别并主动处理边缘情况。

作者分享了他的多模型组合策略：使用 Claude 3.5 Sonnet (low) 进行规划以大幅降低消耗；切换到 GLM 4.5 Fast 或 Grok 4.5 进行常规讨论与定位；部署 Claude 3.6 Luna 子智能体进行代码库探索；而在需要极高精度和事实依据的场景下，使用 Claude 3.6 Sol。这套配置能在控制成本的同时，保持在成本、性能和延迟的帕累托最优曲线上。