模型路由器难以凭 prompt 判断任务复杂度

开发者 theo 发长帖指出，模型路由器属于「系统一」式模型，只做分类不做推理，仅凭 prompt 几乎无法判断任务复杂度——比如无法得知代码库是 100 行 TypeScript 还是庞大的复杂项目。他提出理想设计：让可异步完成的大任务从便宜模型起步并按需逐步升级，同时用更强的模型作为「校验器」按需介入，而期待即时完成的简单任务则可被快速处理。

2026-09-26 ~ 2026-09-26 · 2 条相关