SYNTRA 自改进数据合成:24 数据集验证 embedding 模型跨域扩展
_reachsumit · x · 2026-10-14
SYNTRA 是一种新的检索训练数据合成方法,只需一个无标注语料库和少量查询-文档对,即可为 embedding 模型适配新任务生成训练数据。
核心机制:
- 自改进循环:根据试验输出的反馈,迭代优化可复用的合成指令
- 无需人工设计数据,极大降低适配成本
实验结果:
- 覆盖 15 个领域的 24 个检索数据集验证有效
- 对多个主流强 embedding 模型,无论有无标注训练集都能提升表现
- 在 6 个评估任务上自改进均提升检索效果,其中 4 个超过人工校准
- MS MARCO 上训练数据扩展到初始规模 32 倍时性能持续提升
代码与数据已开源。
所属事件:SYNTRA 自改进数据合成助力嵌入模型跨 15 领域扩展(2 条相关)→
「研究」频道最新
- AIPOCH 推出 .science 研究包,可分享完整研究上下文 — ahuja_priyank · 2026-10-14
- Video-Arena 基准:用竞技游戏考视频理解,原生模型 F1 仅 13.2 — Kuan Zhang · 2026-10-14
- 阿里等发布 LSCBench:vibe coding 代码功能达标却仅 25% 兼安全 — Qwen · 2026-10-14
- NAVER 提出 OmniCatalyst:全模态模型「知道却说不出口」,自生成文本补齐 — naver-ai · 2026-10-14
- 数据重复预训练新研究:小批次自带正则化,GPU 多未必 loss 低 — Sewon Min · 2026-10-14
- NAVER WATCH 预训练:跨视频学人类演示,机器人成功率 40.9% 升至 68.3% — naver-ai · 2026-10-14