微调 BERT+LLM 混合管线优势被新一代模型清零的教训

rajistics · x · 2026-10-13

Intain 在资产支持金融的文档尽调中，从 CNN 时代一路走来，长期用自家的 BERT 微调模型叠加 LLM API 组成混合管线，在精度、速度与成本之间取得平衡，精度一度优于直接调用 LLM API。

但新一代基础模型在速度与成本上的进步让这套混合方案的优势「一夜归零」。作者感慨：当基础模型的能力和经济性不断重置成本/速度/精度/推理深度的计算账，企业级微调方案很难维持长期优势——这是当下多数公司微调策略的真实处境。