yoavgo 提议:对重复任务微调定制小型预测器,而非都上推理 LLM

yoavgo · x · 2026-09-23

AI 研究者 yoavgo(Yoav Goldberg)连发两条推文提出一个工程设想:很多任务其实不需要推理型 LLM,用文本定义任务直接执行(Jev 这类思路)已经很好;但对于反复出现的任务,可以更进一步——收集任务样例,微调出专属的小型预测器来处理。

他还补充,针对预测器需要考虑的变量,甚至可以设计定制的特征提取器。核心观点是:与其所有任务都靠大模型推理,不如对高频任务沉淀数据、训练专用小模型,效率更高。