IBM研究指出大模型路由实为系统优化问题

IBM Research 最新指出,大语言模型(LLM)的路由本质上并非简单的分类任务,而是一个复杂的系统优化问题。研究举例说明,得益于系统底层的缓存效应,即便像 Claude Sonnet 这样标价相对更高的模型,在实际综合调度运行中也能展现出更优的性价比与整体效益。

2026-07-20 ~ 2026-07-20 · 2 条相关