Adaption 新研究:agent 生成质检清单清洗训练数据,提升模型胜率
sarahookr · x · 2026-10-12
Adaption 发布新研究,用「自适应 agentic 清单」解决低质量训练数据污染 LLM 性能的问题——坏数据不仅拖累推理表现,配置错误的 sandbox 甚至可能诱导出恶意行为。
方法:agent 从历史 AutoScientist 运行中总结出一份质量检查清单,用清单逐条评分并剔除不合格的训练样本。
实验:用随机采样数据 vs 清洗后数据分别训练 Llama-3.3-70B,在留出集上按领域评测答案质量的胜率,清洗数据训练的模型胜率持续更高。作者(被转发的 AMDarmouni 评价)认为数据质检在训练管线中重要且极易被低估,这项工作还打开了不少后续问题。
「研究」频道最新
- 「每个 query 都有自己的 harness」:一句话点出评测新思路 — amankhan · 2026-10-12
- 让 Opus 读 SIGGRAPH 论文,纯代码造出可逆粒子模拟卡点视频 — ravisparikh · 2026-10-12
- ProgramGym:1648 个可验证环境训练长程程序复现 Agent — ProgramGym · 2026-10-12
- USC 发布 SoloQ:免校准 4 比特量化,扩散语言模型内存降 2.61 倍 — UniversityofSouthernCalifornia · 2026-10-12
- vivo 与西电提出 StereoBind:让视频生成配上有空间感的立体声 — Hanmo Chen · 2026-10-12
- LatentGRM:潜空间奖励建模,评测轨迹压缩 9 倍、推理提速 7 倍 — Mingqing Yuan · 2026-10-12