Datology AI 提出可控知识截止的合成数据方案,解预训练时间旅行难题
josh_wills · x · 2026-10-30
Datology AI 指出合成数据存在「时间旅行」问题:当模型改写文档生成合成训练数据时,原有的知识截止保证会丢失,可能引入源文档中不存在的信息——这对需要精确回测(backtesting)的场景是灾难性的。
他们的解决方案是一种可生成带可测量、可控知识截止保证的合成预训练数据的方法,确保合成数据不会泄露截止日期之后的信息。
所属事件:Datology AI 破解合成数据时间旅行难题(3 条相关)→
「研究」频道最新
- 一张图拆解 Mistral Large 4 等 9 个大 MoE 架构差异 — eliebakouch · 2026-10-30
- AI 科学发现算力账单曝光：Navier-Stokes 花掉上千万美元 — kimmonismus · 2026-10-30
- E2E-SWE 基准:186 个任务测 coding agent 从零构建可运行仓库,最好 pass@1 仅 67.7% — jyangballin · 2026-10-30
- LeRoPE 论文：把 RoPE 频率改为可学习参数，省 3.4% 算力 — eliebakouch · 2026-10-30
- ML Commons 推出「基准即服务」，试图终结刷榜时代 — RexDouglass · 2026-10-30
- Redwood 发布 Screwtape:252 次运行造出 35 个能骗过 Agent 监控器的攻击 — dl_weekly · 2026-10-30