Together 提出「多态推理」:流量每秒在变,静态优化已过时

simran_s_arora · x · 2026-11-05

Together Compiler 发布系列的框架篇:AI agent 面对良定义目标(数学、工程、科学)都能有效爬山,但现代推理要优化的目标——流量形态——每秒都在变化:渐进迁移(用户熟悉新模型需要时间)、突发性(客户请求数量/类型突变)、时间性(不同国家用户用途不同)。这要求从「静态推理」转向「多态推理」(polymorphic,形变式)。作者判断多态推理是 AI 推理系统的下一前沿,并引出 Together Compiler 的持续编译方案:OpenRouter 上 80% 流量流向最近三个月发布的模型,十大热门开源模型各用不同架构,客户需求持续变化(帖文截断)。