训练前先验证信号:技能蒸馏预检法判断数据值不值得训

ziv_ravid · x · 2026-11-20

Ziv Ravid 长帖第 7-8 条讲训练前的关键一步:先确认存在可改进的信号。一个不用训练就能检验的方法是「蒸馏成技能」——从真实 trace 中(手动或自动)提取一组技能,放进现有模型的上下文里,重跑评测。如果这样做有效果,说明数据里有模型不知道的东西,值得训练;如果没有,不代表数据没价值,但对前景要更保守。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →