模型 effort 路由目前还不可靠
zeeg · x · 2026-07-11
作者表示同意前文观点，但也指出：**路由（routing）这件事目前并不可靠**。 核心意思是，给模型选择 low / medium / high / x-high / max 这类 effort level 时，现实里很难在任务开始前准确判断到底需要多少算力或“努力程度”；而在任务中途人工盯着再改也很不理想。他认为，更理想的做法应该是模型能在任务执行过程中自动判断是否需要提升 effort level。
zeeg · x · 2026-07-11
作者表示同意前文观点，但也指出：**路由（routing）这件事目前并不可靠**。 核心意思是，给模型选择 low / medium / high / x-high / max 这类 effort level 时，现实里很难在任务开始前准确判断到底需要多少算力或“努力程度”；而在任务中途人工盯着再改也很不理想。他认为，更理想的做法应该是模型能在任务执行过程中自动判断是否需要提升 effort level。