新研究用 scaling law 量化合成数据改写的算力收益
chrmanning · x · 2026-10-31
percyliang 转发 Ahmed 的研究线程:合成数据改写已成 LM 预训练提升数据质量、缓解数据短缺的标准手段,但改写该花多少算力、改写数据训出的模型能否超越改写模型本身尚缺量化。该工作通过拟合 scaling laws 来回答这两个问题,系统度量合成数据在算力效率与数据效率上的收益。
所属事件:斯坦福研究提出合成数据重写的 Scaling Law(3 条相关)→
「研究」频道最新
- arXiv 版主招人:投稿量暴增致审核拖数月,急募版主 — tdietterich · 2026-10-31
- arXiv 版主点名:首次投稿的独立单作者最易被 hold — tdietterich · 2026-10-31
- arXiv 版主:课程作业、综述、立场文件都过不了政策检查 — tdietterich · 2026-10-31
- arXiv hold 机制内幕:版主可提议更换论文主分类 — tdietterich · 2026-10-31
- arXiv 版主详解论文被 hold 四大原因:分类器低分居首 — tdietterich · 2026-10-31
- 离体神经元培养+闭环电生理新预印本:成功训练体外细胞改变行为 — DoctorJosh · 2026-10-31