几美分的 prompt 也能跑出昂贵流程:衡量 agent 该看任务总成本

rvp · x · 2026-09-27

被引用的 microblog 指出一个常见误区:一个便宜的 AI prompt 也可能触发昂贵的业务流程——agent 可能要读取政策、查询 CRM、调用工具、超时重试,最后还需要人工审批。

作者认为真正该衡量的指标是完整完成一个任务的总成本,而不是第一个 prompt 的价格:每多一段上下文都会增加 token 消耗和人力时间,重试和人工审核也要算进总账。企业应为每个完成的任务统计 token 用量与工具调用次数。主帖仅为博主自荐转发,实质内容在被引段。