累积数据可避免模型坍塌,论文背后还有未公开的 AI agent 故事
RylanSchaeffer · x · 2026-10-20
Schaeffer 回顾《Is Model Collapse Inevitable?》：区别于以往「每轮替换数据」的设定，该文证明只要累积（accumulate）真实+合成数据训练，即可避免模型坍塌——在学界普遍担心合成数据导致末日时给出重要修正。他还透露论文背后有一段 2024 年关于 AI agent 辅助 ML 研究的故事，该方向最终被迫放弃，令他遗憾。前帖还谈及《Are Emergent Abilities a Mirage?》获 NeurIPS 奖，他自认结果有效但被实验室早已知晓。
「研究」频道最新
- 克里特团队破解毛霉病谜题：白蛋白是人体天然防线 — realmeetjames · 2026-10-20
- 世界模型是否被建错了？Sonia Joseph 深谈可解释性与物理理解 — soniajoseph_ · 2026-10-20
- 癌症患者公开 12.5 万张 DICOM 影像，邀请深度学习研究者挖掘 — typewriters · 2026-10-20
- 280 个纤维化增强子图谱绘出:CRISPRi CROP-seq 系统扰动 55 万细胞 — anshulkundaje · 2026-10-20
- Jason Wei：放射科不会被 AI 自动化，需求弹性是关键变量 — _jasonwei · 2026-10-20
- 研究：生成式AI只让高元认知者更有创造力，其余人零提升 — korymath · 2026-10-20