新论文:Epiplexity 指导数据选择以提升模型泛化能力

burny_tech · x · 2026-08-17

论文《Epiplexity Guided Data Selection and Generation》提出将 Epiplexity 作为训练信号用于数据选择和合成数据生成。在数据选择中,通过拟合 scaling law 预测 epiplexity 增益以调整采样权重;在合成数据中,使用 REINFORCE 策略引导生成器最大化 epiplexity。实验表明,高 epiplexity 数据能显著提升零样本和微调任务的表现。

所属事件:新指标Epiplexity重定义数据信息量(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →