新论文:Epiplexity 指导数据选择以提升模型泛化能力
burny_tech · x · 2026-08-17
论文《Epiplexity Guided Data Selection and Generation》提出将 Epiplexity 作为训练信号用于数据选择和合成数据生成。在数据选择中,通过拟合 scaling law 预测 epiplexity 增益以调整采样权重;在合成数据中,使用 REINFORCE 策略引导生成器最大化 epiplexity。实验表明,高 epiplexity 数据能显著提升零样本和微调任务的表现。
所属事件:新指标Epiplexity重定义数据信息量(2 条相关)→
「研究」频道最新
- 新基准 ObviousBench:人类全对送分题,GPT-Luna 拿下两冠 — adamallcock · 2026-09-23
- 用「假设-实验-证伪」循环框定自动化科学的可行路径 — burny_tech · 2026-09-23
- 范畴论深度学习尚无实用架构,几何深度学习才是先例 — burny_tech · 2026-09-23
- Voxiferi 开源 VoxWall:为 LLM 训练数据装一道「入站防火墙」 — CackleRooster · 2026-09-23
- 研究者称模型深度被严重低估,是缺失的 scaling 轴 — madhavsinghal_ · 2026-09-23
- 斯坦福研讨会:AI Agent 如何撰写研究论文 — jonc101x · 2026-09-23