内部数据重复会损害模型
sanmikoyejo · x · 2026-07-11
一则研究相关转发,提到两篇工作:**Scale Dependent Data Duplication**,以及 **Internal Data Repetition Destroys Language Models**。 核心信息是:作者团队在讨论/研究**训练数据重复**与**内部数据重复**对语言模型的影响,强调这种现象会破坏模型表现。
sanmikoyejo · x · 2026-07-11
一则研究相关转发,提到两篇工作:**Scale Dependent Data Duplication**,以及 **Internal Data Repetition Destroys Language Models**。 核心信息是:作者团队在讨论/研究**训练数据重复**与**内部数据重复**对语言模型的影响,强调这种现象会破坏模型表现。