微调2B小模型生产分类质量追平前沿API,成本仅1%

Airbnb工程团队与Meta的Ahmad Al-Dahle团队先后分享了在生产分类任务上微调小规模开源模型的实践:经过微调的2B参数模型在分类质量上可追平前沿大模型API,实测F1达0.902,中位延迟约35-36ms,而成本仅为前者的约1%。双方还讨论了"决策模型"类专用小模型何时值得购买、何时值得自行训练的判断依据。

2026-11-05 ~ 2026-11-05 · 2 条相关