sokrypton 解释 TorchFold 自蒸馏有效的原理

针对「模型初始预测为何能提供训练集之外的新信息」的疑问,sokrypton 解释称模型跑上几千次后总会采样到正确且高置信的答案,将这些结果保存加入训练集即可持续改进下一版模型。他还引用 AF3 论文作为佐证:仅靠增加随机种子数,成绩就能从 0.3 提升至 0.6,说明利用模型偶然采到的高置信预测训练后续模型应当有效。

2026-09-18 ~ 2026-09-18 · 2 条相关