微调实验:检查点并非越多越好
DominiqueCAPaul · x · 2026-07-07
开发者分享一次微调实验的不同检查点对比:原本以为 30k 步是最佳、之后过拟合,但 50k 步反而超过了 30k,打破了最初以为的规律。作者对这一训练动态感到困惑(样本量 n=40),后续将继续评估其余检查点。
DominiqueCAPaul · x · 2026-07-07
开发者分享一次微调实验的不同检查点对比:原本以为 30k 步是最佳、之后过拟合,但 50k 步反而超过了 30k,打破了最初以为的规律。作者对这一训练动态感到困惑(样本量 n=40),后续将继续评估其余检查点。