Agent 不必用通用 LLM:专用小模型按任务类型选型
ziv_ravid · x · 2026-11-20
Ziv Ravid 长帖第 10-11 条:选什么模型因问题而异,不一定要通用 LLM。如果是分类问题,可以直接用分类模型,或将其与文本编码器组合。此外还有很多专攻 agentic 任务的小模型,目前业界投入很大——如果你的 agent 任务集有限,可以尝试交给这类模型处理,视觉方向也有类似选择。
「编程与Agent」频道最新
- Every 全公司推行「复合工程」,代码库随功能增加反而更好维护 — every · 2026-11-20
- 定制模型从 30B 起步:单卡能跑、支持 LoRA — ziv_ravid · 2026-11-20
- 训练前先验证信号:技能蒸馏预检法判断数据值不值得训 — ziv_ravid · 2026-11-20
- 微调迭代心法:清数据比调超参更管用 — ziv_ravid · 2026-11-20
- 分类任务别硬上 LLM:分类模型加文本编码器更合适 — ziv_ravid · 2026-11-20
- 最有价值的训练数据是真实 trace:会话、agent 运行、工具调用 — ziv_ravid · 2026-11-20