精选数据微调小模型胜大模型：十年未变的钟摆争论

xeophon 在评测讨论中指出一个持续十多年的循环规律：在精选数据上微调的小模型，往往能在特定任务上击败用更泛化数据训练的更大模型。但这种「小微调模型胜大模型」的说法反复出现又反复被推翻，形成钟摆式争论。他同时坦承所讨论的该特定评测并不严谨。

2026-09-24 ~ 2026-09-24 · 2 条相关