分类任务别硬上 LLM:分类模型加文本编码器更合适
ziv_ravid · x · 2026-11-20
Ziv Ravid 长帖第 9-10 条:微调之后就是迭代循环(训练→看评测失败点→修数据→重复),清洗数据通常比调超参更有效。选模型则因问题而异:分类问题可以直接用分类模型,或与文本编码器组合,不必非用通用 LLM。
「编程与Agent」频道最新
- Every 全公司推行「复合工程」,代码库随功能增加反而更好维护 — every · 2026-11-20
- 定制模型从 30B 起步:单卡能跑、支持 LoRA — ziv_ravid · 2026-11-20
- Agent 不必用通用 LLM:专用小模型按任务类型选型 — ziv_ravid · 2026-11-20
- 训练前先验证信号:技能蒸馏预检法判断数据值不值得训 — ziv_ravid · 2026-11-20
- 微调迭代心法:清数据比调超参更管用 — ziv_ravid · 2026-11-20
- 最有价值的训练数据是真实 trace:会话、agent 运行、工具调用 — ziv_ravid · 2026-11-20