企业从拼token转向模型路由控成本

rohanpaul_ai · x · 2026-07-06

分析指出企业正从“拼token(tokenmaxxing)”转向“模型路由(modelmaxxing)”,因为AI账单让无限制使用前沿模型难以持续。做法是让便宜模型处理草稿、排序、摘要、测试和首轮推理,前沿模型留给失败成本高的任务。数据显示使用路由器的企业比例从约1%升至5%。核心思路是把每个AI请求当作“成本-质量”决策而非空白支票,可按用户层级、延迟、价格等规则路由。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →