训练前先验证:把轨迹提炼成技能喂进上下文重跑评测

ziv_ravid · x · 2026-11-19

推文线程片段给出训练前的关键判断法:先确认你想测的能力有大幅提升空间,再决定是否投入训练。具体做法是「技能蒸馏」——从轨迹数据中提取一组技能(手动、自动或从数据观察得出),把它们放进现有模型的上下文里重跑评测。如果提升了,说明数据中有模型不知道的东西,值得训练;如果没有提升,不代表数据没价值,但前景应更悲观。

所属事件:训练前后关键步骤:先技能蒸馏验证,再迭代清洗数据(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →