企业从拼token转向模型路由控成本
rohanpaul_ai · x · 2026-07-06
分析指出企业正从“拼token（tokenmaxxing）”转向“模型路由（modelmaxxing）”，因为AI账单让无限制使用前沿模型难以持续。做法是让便宜模型处理草稿、排序、摘要、测试和首轮推理，前沿模型留给失败成本高的任务。数据显示使用路由器的企业比例从约1%升至5%。核心思路是把每个AI请求当作“成本-质量”决策而非空白支票，可按用户层级、延迟、价格等规则路由。
「Infra」频道最新
- Meta OCP 峰会晒 AI 网络家底:102.4T 液冷交换机、两层的 Flattened Planar Fabric — Meta_Engineers · 2026-10-27
- huggingface_hub 2.3.0 发布：百万文件列取从分钟级降到 20 秒 — lhoestq · 2026-10-27
- 手握超 1300 亿美元现金的 AI 公司 IPO，为后来者立下离谱先例 — signulll · 2026-10-27
- 不用树莓派，一块 ESP32-S3 让 USB 打印机变 AirPrint — ngxson · 2026-10-27
- Michael Dell 称马斯克是最难伺候的客户，Colossus 六周建成换来回购 — elonmusk · 2026-10-27
- Tenstorrent 融资 15 亿美元，估值 62 亿较去年翻倍以上 — Beth_Kindig · 2026-10-27